project
WeLM - 微信推出的自研大语言模型
WeLM(WeChat Language Model)是微信自研的大语言模型,已迭代至V4。模型专为微信生态打造,参数约80B-130B,采用稀疏MoE架构,强调低成本与高效率。
WeLM是什么
WeLM(WeChat Language Model)是微信自研的大语言模型,已迭代至V4。模型专为微信生态打造,参数约80B-130B,采用稀疏MoE架构,强调低成本与高效率。WeLM支持128K长上下文,能天然获取群聊、朋友圈等生态数据。通过Hidden Decoding技术隐藏推理过程,实现快速响应。WeLM不对外开放,是微信AI Agent 小微的智能底座。
WeLM的主要功能
- 微信生态专属智能服务:作为微信 AI Agent「小微」的底层模型,WeLM 深度嵌入微信生态,支持群聊消息总结、朋友圈动态查看、好友话术回复、公众号/视频号内容理解等场景。
- 低成本高效推理:采用高度稀疏 MoE(混合专家)架构,配合 GQA、KV-Mirror、Multi-Token Prediction 等技术,大幅降低推理成本,支撑微信 10 亿+ 日活用户的高频调用。
- 快速响应(Hidden Decoding):通过 Hidden Decoding 技术隐藏推理过程,在保证输出质量的同时实现低延迟响应,避免用户长时间等待。
- 长上下文理解:支持 128K 超长上下文,天然获取群聊记录、朋友圈、收藏、点赞等生态数据,实现精准的意图识别和个性化回复。
- 多任务处理:覆盖内容总结、对话生成、信息检索、个性化推荐等多种任务,成为微信内 AI 能力的核心引擎。
如何使用WeLM
- 访问官方入口:微信搜索「小微」找到访问入口。
-
更新微信:将微信升级至最新版本,确保能接收「小微」内测推送或全量开放。
-
找到入口:在微信聊天列表、顶部搜索栏或发现页中找到「小微」AI Agent 入口。
-
发起对话:点击「小微」,直接输入文字或语音提出你的问题与任务需求。
-
授权数据:根据提示授权访问群聊记录、朋友圈、收藏等生态数据,以获得个性化、上下文感知的回复。
-
执行任务:使用「小微」进行群聊总结、内容推荐、话术生成、信息检索等操作。
-
优化交互:根据「小微」的反馈,通过多轮对话不断细化你的指令,提升结果质量。
WeLM的核心优势
- 微信生态原生融合:WeLM 是专为微信生态打造的”专用小模型”,天然获取群聊、朋友圈、公众号、视频号、收藏等上下文数据,无需用户手动上传或授权外部工具,能更精准理解用户意图。
- 极致成本控制:采用高度稀疏 MoE 架构(非超大稠密模型),配合 GQA、KV-Mirror、Multi-Token Prediction 等技术,大幅降低推理成本,支撑微信 10 亿+ 日活的高频调用。
- 快速响应体验:通过 Hidden Decoding 技术隐藏推理过程,在保证输出质量的同时实现低延迟,避免用户等待,适配微信即时通讯场景。
- 超长上下文记忆:支持 128K 长上下文,在群聊总结、朋友圈回顾、个性化推荐等长文本任务中表现优异。
- 稳定可控的封闭架构:不对外开放,专注服务微信内部场景,在稳定性、安全性、生态一致性上具备天然优势。
WeLM的同类竞品对比
| 维度 | WeLM | 字节豆包 |
|---|---|---|
| 定位 | 微信生态专用封闭模型 | 字节生态通用AI助手(全平台开放) |
| 参数规模 | 80B-130B(”小模型”) | 千亿级通用大模型 |
| 架构 | 高度稀疏MoE,极致压缩成本 | 稠密+MoE混合,追求通用性能 |
| 数据融合 | 原生获取微信生态数据(群聊、朋友圈等) | 需用户手动上传或授权外部数据 |
| 响应策略 | Hidden Decoding 隐藏推理,追求极速 | 支持展示推理过程,可深度思考 |
| 开放程度 | 不对外开放,仅服务微信内部 | 独立App、网页、API全面开放 |
| 核心目标 | 低成本、低延迟、高稳定、深生态 | 通用能力、多模态、大规模用户覆盖 |
WeLM的应用场景
- 群聊智能总结:WeLM 可自动梳理微信群聊中的海量历史消息,精准提取关键信息、核心决议与待办事项,帮助用户快速掌握群聊动态。
- 朋友圈互动辅助:WeLM 能基于好友的朋友圈动态内容,结合用户与好友的关系,智能生成贴切、个性化的评论或回复建议。
- 生态内容问答:WeLM 可对微信公众号文章、视频号等生态内容进行深度解读,即时回答用户关于文章细节、视频主题等方面的疑问。
- 个人记忆检索:WeLM 支持跨聊天记录、收藏夹、点赞历史等个人数据,帮助用户快速精准地定位并召回过往的重要信息。
- 智能话术生成:WeLM 能结合当前聊天上下文、好友关系及个人风格,为用户推荐得体、自然的回复措辞与沟通话术。