Meta FAIRは、コード生成とコード推論における「世界モデル」の役割を探求するために設計された、320億パラメータの研究ベースのモデルであるコードワールドモデル（CWM）を発表しました。公式技術レポートでは、モデルの目的と評価フレームワークについて説明されており、プログラムセマンティクス、実行パス、およびマルチステップ推論のモデリング機能を向上させるために、世界モデルベースの表現とトレーニングプロセスの使用を強調しています。CWMは研究指向であり、検証可能なコーディング、デバッグ、および複雑なタスク分解における革新的な方法論の促進を目指しています。
CWMはHugging Face上でオープンな重みを提供し、FAIR非営利研究ライセンスの下で公開されています。対応する推論および再現コードはGitHubで公開されており、コミュニティは同じベースラインに基づいて実験を行うことができます。Metaはアクセス申請ページも開設し、ダウンロードと使用条件を明確にしています。現在のバージョンは、世界モデル分野における研究のための公開的な出発点を提供することを主な目的とした、高密度32Bパラメータモデルと説明されています。実際の産業用パフォーマンスをより広範なベンチマークと比較するには、さらなる作業とサードパーティによる複製が必要です。
よくある質問
Q: CWM の位置づけは何ですか?
A: コード生成とコード推論のための研究指向のモデルであり、世界モデルの考え方を導入して、プログラムの動作とマルチステップ推論のモデリングを強化します。
Q: 完全にオープンソースですか?
A: 重みはダウンロードできますが、主に非営利の研究目的で研究ライセンスに基づいて提供されるため、ページ上の手順に従って条件を適用し、遵守する必要があります。
Q: どこで入手できますか?
A: 技術レポートはMeta Researchの公式サイトから入手でき、重みはHugging Faceでホストされており、研究コードはGitHubで公開されています。
Q: 以前のコード モデルとの違いは何ですか?
A: コードの理解、実行軌跡のモデリング、検証可能な推論を研究するための「世界モデル」指向のデータとトレーニングパラダイムを重視します。
Q: 比較するための明確なベンチマークスコアはありますか?
A: 公式レポートでは評価と機能の説明が提供されていますが、広範囲にわたる独立した第三者による比較がまだ進行中であり、その後の複製結果の方が参考としてより価値があります。
