刊 DailyNews 科技 / AI 每日文摘2026 年 10 月 30 日

每日文摘

深挖 · MiniCPM5-2B：AA 榜单三换口径的 2B「小钢炮」，离 Qwen3.8-27B 还有多远

题图

面壁智能/OpenBMB 在 2026-09-07 开源了 2B 级端侧模型 MiniCPM5-2B，宣传口径相当唬人：Artificial Analysis 综合 23 分、「4B 以下开源第一」、「Agentic 能力断层领先」。刚好我这边 206 机器上跑着 Qwen3.8-27B，3090 的显存账也记了很久，这次深挖就回答两个问题：**它和你正在用的 27B 差多少？塞进本地之后能干什么？**先剧透结论：榜单数字要打折扣看，但这个模型的真实定位依然成立——不是 27B 的替代品，而是塞进显存缝隙里的便宜快速通道。

是什么

先把户口查清楚。MiniCPM5-2B 总参数 2,516,756,480（非嵌入约 1.98B），Dense 纯文本，Apache-2.0 可商用，原生上下文 131,072 token（HF config.json）。架构上它可能是近期发布里最「不折腾」的一个：标准 LlamaForCausalLM，42 层，GQA 16 个 Q 头 / 2 个 KV 头，head_dim 128，没有自定义 kernel、不需要 trust-remote-code，vLLM/llama.cpp 直接加载（GitHub README）。MiniCPM 家族的线性/稀疏注意力（Lightning Attention、InfLLM-V2）在 MiniCPM-SALA 那个 9B 分支上，不在本型号——它就是最普通的 GQA 全注意力。

官方定位是手机、PC、智能座舱的端侧模型，联合 FlagOS 做了 9 家芯片的 Day0 适配（昇腾、沐曦、摩尔线程等，IT之家）。但截至发稿，没有找到任何具名商用案例——手机型号、车机机型都为零，只有芯片「适配」公告和能力声明。

核心机制（技术）

架构这么普通，智能从哪来？面壁的答案是全押在数据和后训练上，整条链路四段：base → mid-training → SFT（400B token 的 deep-thinking 数据）→ RL → OPD 蒸馏（GitHub README）。

**UltraX：让 0.6B 小模型当数据清洁工。**它训练一个轻量编辑器模型，对网页文档输出「行级编辑程序」——只有 keep_all / remove_all / remove_lines / replace_str / add_line 五个函数，确定性执行而非端到端重写，避免语义漂移（UltraX 论文 arXiv:2607.08646）。这里要修正一个流传很广的说法：论文实验是「16B token 的 UltraX 数据训 1B 模型，平均分超过 raw/ProX 各自 20B token 的成绩」，中文报道原文也是「160 亿 vs 200 亿」——你在网上看到的「160B token 效果超 200B」是单位讹传，放大了十倍（智源社区）。

**Agent 能力在后训练，不在预训练。**UltraData-SFT-Agent-2609 是 50 万条完整 agent 轨迹（任务 → 推理 → 工具调用 → 验证，中英双语）；UltraData-RL-2609 是 85,995 条可验证任务（数学 37.7% / 代码 27.5% / 长上下文 21% / STEM 13.8%），管线里有多模型共识审计和按 pass rate 的难度校准（HF 数据卡）。顺带一提，「Agentic 预训练」这个词在一手来源里并不存在，agent 能力明确来自 SFT/RL 阶段。

**JustRL II 与 Meshy：这次开源里技术含量最高的部分。**RL 阶段用 JustRL II 的 critic-based 算法（媒体口径：给 GRPO 加 Critic，把信用分配细化到词元级；原始博客在 Notion 上有 JS 墙，机制细节只有转述）——效果有硬数字：RL 约 300 步把 AIME 2025 从 61 拉到 81，终版 checkpoint 86（UltraData-RL 数据卡）。最后用 OPD（on-policy 蒸馏）把 16 个 RL 专家模型（含 5 个 agentic 专家）蒸回单一发布模型，官方称 agentic 指标因此 +6.96。Meshy 则是独立开源的异步 RL 引擎：去掉中央控制器和 Ray，把推理/训练/rollout 建模成对等服务，靠 TransferQueue 的数据就绪状态驱动控制流（OpenBMB/Meshy）——不过有个瑕疵：README 徽章标 Apache-2.0，GitHub 上却检测不到 LICENSE 文件，法律状态待确认。

背景板是清华刘知远团队的密度定律（能力密度约每 3 个月翻倍，arXiv:2412.04315），MiniCPM5-2B 就是这条叙事的最新验证样本。工程层面给个中评：家族单仓库 10,967 star、文档迭代很勤（9/10–9/12 全是 docs commit），但无 CI、无测试套件，也没有本型号专属技术报告，训练细节散落在 README、数据卡和博客里。

怎么跑起来（环境）

好消息是部署门槛确实低，这也是它对自托管玩家最实在的部分：

数据说话（评测）

这部分信息量最大，矛盾也最多，如实摆出来。

第一件事：那个「23 分」是旧版口径。AA 官方文章写得很清楚：MiniCPM5-2B 在 Intelligence Index v4.1.1 得 23，v4.2 得 15——两版基准组合不同、分数不可直接比较；文章发布时 15 分确实是 4B 以下开放权重最高。但 AA 官网现行口径已切到 v4.3 = 13 分，类别第 2 / 49，不是第一（AA 文章、AA 模型页）。有意思的是反方向：AA 是独立实测了 MiniCPM5-2B 的（标 “estimated” 的是对照的 Qwen3.5 4B/9B），传播中「independent evaluation forthcoming」的质疑说法反而在五个文本源里都查无此语。所以准确表述是：AA 真测过，但宣传一直用换版前的旧分。

第二件事：和 Qwen3.8-27B 的直接对话，5 个共同基准全输。

基准MiniCPM5-2BQwen3.8-27B
SWE-bench Pro14.461.7
Terminal-Bench 2.18.673.0
HLE8.930.8
GPQA Diamond70.289.2
LiveCodeBench v669.190.3

（前者 HF 模型卡，后者 Qwen 模型卡；口径注意 Qwen 官方用 Claude Code harness / GPT-4o judged；AIME 和 GDPval Qwen 未报告，无法对比。）agent/工程类差 4–8 倍，差距最小的是 GPQA（19 分）。这不意外——27.8B 多模态、原生 256K 上下文 vs 2.5B 纯文本、131K，11 倍参数差摆在那。更有参考价值的是它在自表横评里也输 Qwen3.5-4B 四项（SWE-bench Pro 14.4 vs 28.2、Terminal-Bench 8.6 vs 25.8、HLE 8.9 vs 9.9、GPQA 70.2 vs 77.1）——「4B 以下第一」只在 AA v4.2 当时成立。

第三件事：通稿数字的翻车清单。GDPval-AA v2 官方 Elo 是 831，通稿写 891；「Gemma 4 12B 得 647」高度可疑——AA 文本里 647 是 Granite 4.2 8B 的分数，疑似把 Granite 写成了 Gemma；「Qwen3.5 9B 得 645」查无出处；「Agentic Index 20 分、第二名 9 分、同级 2 分」在 AA 页面上不存在这个聚合分，且「9 分 / 2 分 / 约 10 分」三种转述互相矛盾（AA 文章 vs 智源、IT之家）。另外 LiveCodeBench 69.1、AIME 86.5、34 项平均 53.9 这些主打的数字全部是厂商自测，HF 卡上没有 † 标（† 才是 AA 实测），暂无第三方复核。

AA 实测里真实的强项和弱项：强项是 GDPval-AA Elo 831（4B 以下第一）、τ³-Banking 21%（并列第一）、token 效率 19k 输出 token/任务（同级最低之一，Qwen3.5-9B 要 34k）；弱项很扎眼——Terminal-Bench 9%、HLE 9%、GDP.pdf 直接通过率 1%、Omniscience 得 -12（靠弃权 71% 的题目换来 78% 不幻觉率）。

社区声量与独立实测：HN 帖 4 分零评论（Hacker News）；Reddit Release Day 帖的标题口径就是「15 分，与 Ling 3.0 Tiny（16，参数约 3 倍）和 Qwen3.5-4B 同档」，楼主实测过了大海捞针、没过 car wash test；1B 前作有「benchmarks are kind of absurd」的社区前科。目前最实质的独立上手实测来自 MindStudio（链接）：SQL 分区 bug 定位修复、史实核查、单文件 HTML 模拟都过了（「对这个体量惊艳」）；翻车在多语言生成编造词汇（普通话/韩语/德语/冰岛语）、同一中间步骤重复算 3–4 次的推理冗余。一句话画像：单点修 bug 可以，长链路工程任务不行。

值不值得跟

结合「206 上有 27B + 云端 GLM/DeepSeek、3090 显存已被 TTS/ASR 占走大半」的现实，我的判断：

  1. **它是分工模型，不是替代模型。**想用它替 Qwen3.8-27B 做生产任务，数据不支持；但「重活走云端/27B、便宜活走本地 2B」的分层里，它有真实位置：分类、摘要、结构化抽取、简单工具调用——τ³-Banking 20.8、BFCL 66.6（自表）加同级最低的 token 消耗，正好是「快速通道」的画像。
  2. 落地路径清晰：206/3090 用 GPTQ 4bit（总占用 4~5GB）和 VoxCPM2、qwen-asr 共处一卡；Mac 装官方 MLX 版（1.42GB）即用。工具调用记得挂 parser 插件。发布一周社区实测≈0，先当实验性补充，别当基础设施。
  3. 对榜单保持一点耐心：等 AA 口径稳定（v4.3 类别第一是谁都还不知道）、parser 进 pip release、社区实测积累起来，两周后复查一次再决定是否长期留在显存里。
  4. 真正值得抄的是它的开源姿势：UltraX、UltraData、Meshy、JustRL II 这套「把数据治理和 RL 工程开源出来」的做法，比自己训模型的大多数 repo 诚实得多——就算不部署模型，这两样也值得收进工具箱。

参考阅读