Mistral3LargeMoE稀疏专家架构

Mistral 发布 Mistral 3 模型家族 含大规模 MoE 与 Ministral 边缘系列

Mistral AI 宣布推出新一代模型家族 Mistral 3，包括稀疏专家混合架构的 Mistral Large 3，以及面向本地与边缘场景的 Ministral 3 系列（3B、8B、14B）。官方介绍称，Large 3 采用约41B激活参数、675B总参数的 MoE 结构，在通用指令任务、多...