MiMo-V2-Flash滑窗与全局注意力混合机制

MiMo-V2-Flash 开源解读：309B MoE、15B 激活参数与 256K 长上下文

一、摘要 MiMo-V2-Flash 是小米 MiMo 团队开源的混合专家（MoE）大语言模型，总参数约 309B、推理时激活参数约 15B，主打在较低推理成本下兼顾推理、编程与智能体（Agent）工作流。它强调长上下文能力（最高 256K）与推理效率之间的平衡，并提供可复现的技术报告、权重与推理部...