Kimi K3.1 Proのオープンウェイトは、普通のパソコンにそのまま入れることはできません。月之暗面は11月4日前後にウェイトをHugging Faceに公開しました。モデルカードには、総パラメータ2.8T、トークンごとに活性化されるのは約104B、896人のエキスパートのうち一度に16人が活性化、コンテキストは最大1Mトークン、ウェイトはMXFP4量子化形式で公開され、96個のシャードで合計約1.56TBとあります。「オープン」という言葉だけを見てダウンロードしても、普通のパソコンでは保存すらできず、動かすことはなおさらできません。
大きさは最初のハードルにすぎません。公式のデプロイ方法はvLLMやSGLangといった推論エンジンを使い、TP8やDCP8といった複数GPU並列の設定例が示され、単一マシンではなくサーバークラスタを想定しています。1.56TBのウェイトのダウンロード自体に、安定した高速ネットワークと十分なディスク容量が必要で、ダウンロード後にはシャードの完全性を検証しなければならず、破損したシャードがあれば再ダウンロードが必要です。活性化パラメータ104Bにより、1ステップあたりの計算量はかなり大きく、GPUメモリとメモリ帯域幅はサーバー仕様で準備しなければならず、家庭用パソコンのメモリと帯域幅はその水準にありません。ライセンスも先に読む必要があります。ウェイトはMITのような一般的なオープンソースライセンスではなく、月之暗面独自のKimi K3.1 Proライセンスの下にあり、商用利用や再配布の前に条件を確認しなければなりません。
一般ユーザーはどのルートを選ぶべきか
Kimi K3.1 Proを使いたい一般ユーザーにとって、最も直接的なルートは公式のホスティングチャネルです。Kimiのウェブサイト、アプリ、Kimi Code、オープンプラットフォームはいずれも同じモデルを提供し、API識別子はkimi-k3.1-proで、OpenAI方式とAnthropic方式の両方のインターフェースに対応し、従量課金で、ウェイトやグラフィックスカードを自分で管理する必要はありません。本当にセルフホストしたいチームは、まず3つのことを確認しましょう。8枚のGPUレベルの推論クラスタがあるか、vLLMやSGLangを維持できる人がいるか、ライセンスを読んでコンプライアンスに合った用途を確認したか。この3つのうち1つでも欠けていれば、まだダウンロードしないことです。公式スコアを再現したい学術・評価用途も、モデルカードに示されたエンジンと設定に従うべきで、エンジンや量子化形式を変えるとスコアは比較できなくなります。判断基準は1つだけです。あなたのマシンとチームがサーバー基準で準備されているか、個人用パソコン基準で準備されているか。前者の場合にだけセルフホストを検討し、後者の場合はホスティングサービスを直接使いましょう。
