MiMo-V2-Flash多卡并行推理策略

小米 MiMo 大模型性能表现怎么样？

一、性能结论 小米 MiMo 系列中，MiMo-V2-Flash 走“高效能密度”路线：MoE 架构 309B 总参数、约 15B 激活参数。其模型卡显示在多项通用与推理基准上表现强势，代码与 Agent 相关评测尤为突出。 二、速度与成本 官方介绍其采用混合注意力、多词元预测等设计以降低推理开销，...