主要介绍
WeLM是微信团队推出的全栈自研大语言模型,依托微信生态多年积累的海量中文语料数据、社交场景语言理解经验与腾讯底层算力基础设施打造,核心解决了通用大模型在微信生态场景适配不足、中文日常表达理解偏差、隐私数据安全难以保障、轻量端侧部署难度大的行业痛点。它打通了从云端超大规模模型到端侧轻量化小模型的全能力链路,深度适配微信公众号、小程序、微信对话、企业微信等全系列微信生态场景,无需复杂的适配改造就能直接接入微信体系内的各类应用,同时兼顾了极高的中文语义理解精度与严格的用户隐私数据保护能力,是当前国内互联网生态中深度绑定社交与日常办公场景的标杆级自研大语言模型。
功能特点
- 支持全场景中文语义深度理解,对网络热梗、日常口语、社交语境下的隐含语义识别精度表现突出,远超多数通用大模型的中文理解能力
- 原生适配微信全生态,可直接无缝接入微信对话、公众号、小程序、企业微信、微信支付等各类微信场景,无需复杂的二次适配开发
- 支持云端大模型与端侧小模型的协同调度,可根据场景的隐私等级与算力条件自动切换运行模式,敏感数据完全在端侧本地处理不对外上传
- 搭载微信生态专属能力插件,可直接调用微信内的日程管理、文件处理、消息发送、内容排版等原生功能,实现指令到操作的一键落地
- 支持多模态输入扩展,可同时接入文本、微信聊天记录片段、公众号文章、图片文字识别结果等多种输入形式,灵活适配不同场景需求
- 配套全可视化低代码接入工作台,开发者无需深厚的大模型开发经验,就能快速把WeLM的能力接入自有微信小程序或公众号应用
- 支持多轮长对话上下文超长记忆,可完整保留数十轮微信对话的上下文信息,对话过程中不会出现信息遗忘、逻辑断裂的问题
优缺点
- 优点1:中文社交语境理解能力行业顶尖,对中文日常表达、网络热梗、隐含语义的识别精度远超多数海外背景的通用大模型,完全贴合国内用户的语言使用习惯
- 优点2:微信生态原生适配优势突出,接入微信全系列应用的开发成本极低,可直接复用微信体系内的各类原生能力
- 优点3:隐私安全保障能力极强,端侧模型可完全离线运行,敏感用户数据全程不会上传云端,完全符合社交场景下的用户数据隐私保护要求
- 优点4:模型轻量化表现优异,端侧小模型可在普通手机设备上流畅运行,无需依赖云端算力就能完成多数基础语言处理任务
- 优点5:微信生态内的调用稳定性极强,依托微信成熟的全球算力节点,可支撑亿级用户同时调用,不会出现高并发场景下的服务卡顿问题
- 缺点1:当前版本在部分非社交类的垂直专业领域,如高端工业制造、前沿科研领域的专业知识储备深度上,和部分通用大模型仍有小幅差距
- 缺点2:对外生态的开放适配仍在持续完善,非微信体系内的第三方应用接入的适配成本,相比微信生态内的应用要高出不少
- 缺点3:全功能超大规模云端模型的运行算力开销较高,普通开发者独立部署全量大模型的硬件门槛较高
- 缺点4:面向非微信生态的第三方开发者的定制化工具链仍在迭代,部分垂直行业的专属定制化能力需要开发者自行补充开发
如何使用
- 首先访问微信AI开放平台,获取WeLM的官方使用入口,完成开发者资质认证后即可申请对应的模型使用权限
- 根据自身的使用场景选择对应的模型版本,微信生态内的应用可直接申请云端大模型的API调用权限,有隐私需求的场景可申请端侧轻量化模型的部署包
- 在微信开放平台的可视化工作台中,根据自身的应用需求配置模型的能力参数,调整对话记忆长度、输出内容风格、专属功能插件等设置
- 完成基础配置后,可直接在工作台内进行效果测试,输入对应的测试指令验证模型的输出效果,根据测试结果微调参数优化表现
- 测试通过后,依托官方提供的微信生态专属SDK,快速把WeLM的能力接入自有公众号、小程序或企业微信应用,完成上线部署
- 上线后可在开放平台的后台实时查看模型的调用数据、用户反馈情况,持续迭代优化模型在自身业务场景下的表现
- 有离线部署需求的用户,可申请端侧模型的完整部署资源包,在本地硬件上完成部署运行,全程无需连接云端服务即可使用基础语言能力
框架技术原理
- 采用微信自研的“云-端”协同分层大模型架构,云端训练超大规模通用语言模型,通过专项蒸馏技术生成多档不同参数规模的端侧轻量化小模型,实现能力与效率的平衡
- 基于微信生态多年积累的海量合规中文语料完成预训练,通过社交场景专项对齐训练,大幅提升中文日常表达、社交隐含语义的理解精度
- 采用微信原生场景特征锚定技术,把微信生态内的各类功能特征与模型的输出逻辑深度绑定,实现自然语言指令到微信原生操作的精准映射
- 内置隐私安全约束模块,通过端侧数据本地处理、联邦学习等技术,在不收集用户敏感数据的前提下完成模型的持续迭代优化
- 采用多场景动态调度技术,模型可根据当前场景的隐私等级、设备算力情况自动切换运行模式,在保障数据安全的前提下最大化运行效率
- 支持模块化扩展设计,开发者可自定义接入专属的行业知识库,框架会自动适配新的领域知识内容,无需重新训练整个基础大模型
创新点
- 首次实现了深度绑定社交生态的全栈自研大语言模型架构,把微信生态的场景能力与大模型的语言理解能力原生打通,填补了通用大模型在社交场景适配不足的行业空白
- 提出社交语境语义锚定算法,在极低的额外算力开销下实现中文日常隐含语义的精准识别,中文社交场景的理解精度达到行业顶尖水平
- 实现了云边端全链路隐私安全保护机制,敏感数据全程在端侧本地处理,彻底解决了社交场景下用户对话数据的隐私泄露风险
- 推出微信生态零成本接入体系,微信生态内的应用仅需少量开发工作就能快速接入大模型能力,大幅降低了生态内开发者的大模型使用门槛
- 打造了端侧大模型流畅运行的优化方案,让轻量化大模型可在普通消费级手机设备上流畅运行,无需依赖云端算力就能完成多数语言处理任务
评估标准
- 中文社交语义理解准确率:对中文日常口语、网络热梗、社交隐含语义的识别正确比例,衡量模型的核心中文理解能力
- 微信生态功能调用成功率:通过自然语言指令调用微信原生功能的成功比例,衡量生态适配的核心能力
- 端侧模型运行速度:在普通消费级手机设备上完成单轮语言响应的平均耗时,衡量端侧运行的流畅度
- 隐私数据安全合规率:敏感用户数据全程不离开本地设备的覆盖比例,衡量模型的隐私保护能力
- 高并发场景服务稳定性:亿级用户同时调用时的服务可用率,衡量大规模场景下的服务稳定性
- 长对话上下文保留率:数十轮长对话后,模型对前文关键信息的完整保留比例,衡量长对话的记忆能力
应用领域
- 微信社交场景领域:为微信对话提供智能回复辅助、内容总结、语义纠错等能力,提升用户日常社交沟通的效率
- 公众号内容创作领域:辅助公众号作者快速完成文案生成、内容排版、热点内容梳理,大幅降低公众号内容的创作门槛
- 小程序智能服务领域:为各类小程序接入智能客服、智能交互能力,提升小程序的用户服务体验,降低人工客服成本
- 企业微信办公领域:为企业微信提供智能日程管理、会议纪要生成、文档内容处理等能力,提升企业日常办公的效率
- 微信教育场景领域:为教育类小程序提供智能答疑、个性化学习辅导等能力,为用户提供轻量化的随身学习辅助服务
- 微信电商场景领域:为电商类小程序提供智能商品推荐、智能客服答疑、营销文案生成等能力,提升电商场景的用户转化效率
项目地址
WeLM的官方开放服务已在微信AI开放平台正式上线,开发者可直接搜索“微信AI开放平台 WeLM大模型”获取官方入口。
平台内提供了免费的基础调用额度、全中文开发文档、可视化接入工作台与大量微信生态场景示例,同时开放微信AI开发者社区,用户可在社区内反馈使用问题、分享大模型接入开发的经验。
模型针对微信生态内的应用提供了极低门槛的接入支持,符合条件的开发者可申请对应的端侧模型部署权限,相关资源均可通过官方平台公开获取。