ToolNavs 发现实用AI工具
提交工具 登录
返回AI资讯
MiniCPM-V 4.7 开源:35B 模型塞进 3GB 内存,手机解码 13 token/s 以上

MiniCPM-V 4.7 开源:35B 模型塞进 3GB 内存,手机解码 13 token/s 以上

AI资讯 • Admin • • 7 次浏览

MiniCPM-V 4.7 于 2026 年 10 月 13 日由面壁智能正式发布并开源,包含 35B-A3B 与 1B 两个版本:前者是这个系列第一个 MoE 模型,总参数 350 亿、每次推理只激活约 30 亿,官方称仅约 3GB 内存即可在端侧无损流畅运行。环球网、每日经济新闻、界面新闻与 IT之家 10 月 13 日的报道口径一致,这次发布真正的看点不是参数,而是它怎么解决 MoE 在手机上搬运专家的老问题。

难的不是算,是搬

MoE 模型内部有许多专家,每次回答只调用其中几个。麻烦在于,没被调用的专家也得有地方放:传统做法是等需要哪位专家,再临时把它的权重搬进内存,搬完才算,一搬一停就会卡顿。面壁智能这次开源的 LES(前瞻专家调度)技术换了思路:系统提前预测接下来会用到哪些专家,趁当前计算还在进行,就把它们预先加载好,让加载和计算重叠推进,官方称这是目前业界独家开源的同类方案。它同步开源的还有 SRFT 自我回放微调方案,用来降低开发者二次微调时的遗忘问题。

两个速度数字,别混着看

不同报道里的速度对应不同设备:IT之家援引官方数据称,35B-A3B 在 iPhone 17 Pro Max 上以约 3GB 内存跑出 13 token/s 以上的解码速度;环球网报道的 iPad Pro 实测则是 15 token/s 以上。两个数字并不矛盾,但引用时不能张冠李戴。性能对比方面,官方称 35B-A3B 的 Instruct 模式以更短推理时间取得了高于 Qwen3.6 35B-A3B 的综合得分,1B 版本则在综合得分和推理效率上显著领先 Qwen3.5 0.8B。这些都还是厂商口径,尚无第三方独立复现,读者应按发布方自测看待。

发布当天就铺开的适配清单

按官方介绍,MiniCPM-V 4.7 发布当日即支持 iOS、安卓和鸿蒙三大系统,芯片平台覆盖瑞芯微、英伟达、英特尔、苹果,以及 AMD、Arm、后摩等,并提供开源的端侧适配代码和主流推理框架支持。面壁智能与 OpenBMB 开源社区发布的 MiniCPM 系列累计下载量已突破 6000 万次。对想在端侧做多模态应用的开发者,这次发布的实际意义在于:35B 级别的视觉理解第一次有了可以在手机和平板上认真试一试的开源选项,隐私和离线场景不必再默认上云。是否真能做到官方说的无损流畅,等社区在不同机型上跑出实测后再下结论也不迟。

推荐工具

更多