DeepSeek の推論フレームワーク DeepInfer が 2026 年 10 月 20 日にオープンソース化された。DeepSeek は自社の大規模な本番サービスを支える推論フレームワークを、GitHub の公式リポジトリ deepseek-ai/DeepInfer に Apache-2.0 ライセンスで公開した。初のオープンソース版はオフライン推論を提供し、現時点で対応するモデルは DeepSeek-V4.1-Flash のみである。
公開された中身の実力
カーネル層には FlashMLA、DeepGEMM、DeepEP、TileKernels、DeepSelect といった自社開発の演算子が同梱される。ランタイムは Attention のデータ並列とバランス型コンテキスト並列、EPLB による負荷分散を伴う MoE エキスパート並列に対応する。デコード側には DSpark と信頼度スケジューリングによる検証、スライディングウィンドウ注意の有界リプレイがある。スケジューラは非同期で動作し、ゼロオーバーヘッドのバッチスケジューリングをうたう。さらにバッチ不変推論、決定的サンプリング、正規表現や JSON Schema、EBNF で制約する構造化出力にも対応する。
性能とハードウェアの前提条件
公式の性能グラフはプリフィルを SM100 GPU 4 枚、デコードを 64 枚で測定したものだ。対応ハードウェアは NVIDIA SM100 GPU と Huawei Ascend 950 NPU で、GCC 13 と Python 3.12 が前提となり、NVIDIA 側では CUDA 13、Ascend 側では CANN 9.2 が必要になる。フレームワークはもともと主に vLLM の上に構築され、SGLang と TensorRT-LLM からも着想を得ている。当サイトで以前取り上げた DeepSeek-V4.1-Flash-1017 が、現時点で唯一の対応モデルである。
公開されなかった部分こそ、真似が一番難しい
リポジトリの説明は率直だ。完全な推論サービスには KV キャッシュシステム、プリフィルとデコードの分離（エンジン側の必要機能の大半は実装済み）、データ並列レプリカ間の負荷分散がなお必要で、いずれも今回の公開範囲には含まれない。つまり外部が手にするのはエンジンとギアボックスであり、燃料系統と司令塔は自前で用意しなければならない。DeepSeek モデルを自前で配信したいチームにとって、ゼロからカーネルを調整する負担は下がる。一方 vLLM や SGLang といった既存フレームワークにとっては、DeepSeek の本番システムの設計判断を初めて行単位で比較できる機会となる。バッチ不変性と決定性にどれだけ性能を割く価値があるのか、非同期スケジューリングが CPU の overhead をどこまで隠すのかが見えてくる。
なぜこの公開を注視すべきか
過去 2 年、DeepSeek のオープンソース化はモデル重みと個別のカーネルライブラリが中心で、フレームワーク層は名前だけが知られていた。本番フレームワークを丸ごと公開した影響は、まず推論コストに及ぶ。中小チームが V4.1-Flash をデプロイする際、汎用フレームワークの既定設定から出発する必要がなくなる。もう一つの影響は Ascend エコシステムにある。DeepInfer は Ascend 950 を第一級のターゲットとして扱い、DeepSeek が以前から進めてきたカーネルライブラリの Ascend 移植の流れと一本の線でつながる。冷静な注記も必要だ。リポジトリの作成は 10 月 16 日で、現状はオフライン推論のみであり、本番級のオンラインサービスまではまだ距離がある。移行に投資する価値があるかどうかは、今後数週間の更新ペースと課題への対応速度で判断すべきだろう。
