MAI-Base-2 の事前学習が完了した。2026年10月15日、Microsoft AI は公式ブログ「Frontier Pre-training at Microsoft AI」でこの基盤モデルの詳細を公開した。混合エキスパート方式で総パラメータは2.8兆、推論時に活性化するのは約800億にとどまる。マイクロソフト独自のホールドアウト評価では、テストしたすべてのオープンウェイトモデルよりバイト当たりビット数が低かった。
効率の数字は前提を確認してから読む
注目されるのは効率の数字だ。マイクロソフトの見積もりでは、スケーリング則のフィッティングに基づき、DeepSeek-V4-Pro-Base と同じ評価水準に達するのに必要な計算量は、同社のレシピでは約4分の1から12分の1で済むという。ただしこれは同一の計算予算で競わせた結果ではなく、スケーリング曲線から逆算したレシピ効率であり、比較対象の一部は事後学習済みチェックポイントしかなかった点も同社自身が注記している。数字が示すのは、一度のベンチマークの勝敗よりも訓練手法の進歩だ。
1万6000枚の GPU と38日間で生まれたレシピ
学習は2026年8月から9月にかけて、GB200 を1万6000枚使い38日間行われ、平均の計算利用率は21%、有効に学習が進んだ時間の割合は89%だった。支えたのは三つの工夫だ。小規模実験で大規模モデルを予測するソーススケーリング付きのスケーリングラダー、全層への混合エキスパート導入とドロップレスなルーティングによるエキスパート層利用率の24%から35%への改善、そして AdamW の代わりの Muon オプティマイザである。訓練データは出所の追える自前の有機データで、他モデルからの蒸留は行っていないと同社は強調する。
なぜ自前のパイプラインを持つのか
MAI-Base-2 は現在事後学習の段階にあり、一般向けリリースや完全な成績はまだ出ていない。マイクロソフトが示す商用化の道筋は、Foundry 経由で信頼できるパートナーへ重みをライセンスすることだ。顧客への訴求はパラメータ数だけではなく、データの出所が追えることと、学習と推論の基盤を同じ持ち主が最適化することにある。次に問われるのは、事後学習版が事前学習段階の効率優位を実際のタスク性能に変えられるかどうかだ。
