MiMo-V2-フラッシュハイブリッドアテンションがKVキャッシュコストを削減

MiMo-V2-Flashリリース:256K長コンテキストとマルチトークン予測による推論スループット向上

Xiaomi MiMoとXiaomi大型モデルCoreチームはMiMo-V2-Flash関連リソースを公開・公開し、高速推論やエージェントワークフローの基本言語モデルとして位置づけ、モデルの重みと推論展開データを開発者と研究者に同時に提供しています。 このモデルはMixture-of-Experts...