Mellum2 ： JetBrains 开源的混合专家模型

AI智库导航-aiguide.cc为您提供最新的AI新闻资讯和最新的AI工具推荐，在这里你可以获得用于营销的AI聊天机器人、AI在商业管理中的应用、用于数据分析的AI工具、机器学习模型、面向企业的AI解决方案、AI在商业客户服务中的应用、AI和自动化工具等。

主要介绍

Mellum2 是 JetBrains 于 2026 年 6 月 1 日正式开源的新一代机器学习模型，专为软件工程系统设计。作为前代 Mellum（4B 参数代码补全模型）的全面升级，Mellum2 总参数量达到 12B，采用稀疏 Mixture-of-Experts（混合专家）架构，每 token 仅激活约 2.5B 参数，在保持高吞吐、低延迟的同时，推理成本接近 2.5B 密集模型。上下文窗口从原版的 8K Token 扩展至 128K（约 131072 Token），能力也从单一的代码补全扩展为覆盖代码生成、智能路由、工具调用、子 Agent 协作及私有化部署的完整编码助手。JetBrains 将其定位为”focal model”（焦点模型）——快且专精，而非与 GPT-4 等通用大模型正面竞争，而是聚焦”高频、低延迟、本地优先”的 AI 编程助手赛道。模型以 Apache 2.0 协议完全开源，支持自由商用。

功能特点

优缺点

优点：

• MoE 高效架构：12B 总参数仅激活 2.5B，推理成本极低，推理速度比同级模型快 2 倍以上
• 垂直领域专精：放弃多模态，专注代码与自然语言，在软件工程场景下更精准、更轻量
• 完全开源可商用：Apache 2.0 协议，可自由实验、微调及大规模商用部署
• 企业隐私友好：支持完全本地化运行，满足代码安全与数据合规要求
• 三版本灵活选择：Base（基础版）、Instruct（指令版）、Thinking（思考版）满足不同场景需求

缺点：

• 多模态能力缺失：不支持图像、视频等模态，适用范围限于文本和代码
• 数学推理偏弱：AIME 数学推理得分 58.4，明显低于 Qwen3.5-9B 的 73.4，通用数学能力不是强项
• 上下文扩展有损：YaRN 扩展仅对关键层进行位置编码插值，全层微调带来的性能损失无法完全避免
• 生态尚在早期：相比 Qwen、DeepSeek 等成熟生态，社区工具链和微调案例仍在积累中

如何使用

1. 直接在 JetBrains IDE 中使用：升级 JetBrains AI Assistant 至最新版本，Mellum2 已作为默认后端模型集成在 IntelliJ IDEA、PyCharm、WebStorm 等 IDE 中，开启后即可享受实时代码补全和对话式编程助手功能（本地模式无需联网）。
2. 通过 Hugging Face 在线体验：访问 Hugging Face 模型页面，使用免费的 Inference API 或 Space Demo 直接与模型对话，无需任何配置。
3. 使用 Ollama 本地运行：下载 Ollama 工具后，在终端执行一条命令即可拉取并运行 Mellum2，支持本地对话和 API 调用。
4. 使用 LM Studio 图形化界面：在 LM Studio 中搜索”Mellum2″，下载后通过图形界面直接聊天，适合不熟悉命令行的用户。
5. Docker 一键部署：使用官方提供的 Docker 镜像，一条命令启动兼容 OpenAI 格式 API 的服务，可接入任何支持 OpenAI 协议的客户端工具。

框架技术原理

创新点

1. “Focal Model”产品定位：JetBrains 明确提出”未来属于协同系统而非单一模型”，Mellum2 不是要替代 GPT-4，而是作为 AI 工作流中的专用组件——路由、编排、RAG 管线、子 Agent——填补”大模型太重、小模型太弱”的中间空白。
2. 双模式推理内置：同一模型原生支持 Thinking/Non-thinking 切换，无需训练两个模型，开发者可在速度与质量之间实时取舍。
3. 投机解码内置化：多 Token 预测头同时充当 Draft 模型，无需额外组件即可实现推测解码加速
4. 明确的产品定位：不与 GPT-4 等通用大模型正面竞争，而是聚焦”高频、低延迟、本地优先”的 IDE 助手赛道