vLLMTRTLLM、MoE、Mamba/Qwen3.5キャッシュ、MTP処理などのパッチの集中実装の背後には、バックエンドの互換性と実行安定性に引き続き注力した高性能推論フレームワークがあります

vLLMは0.17.1リリース:TRTLLM MoEおよびMTPパッチは中央集権で実装され、高性能推論が安定性を補い続けています

vLLM 0.17.1は0.17.0の上に構築されたパッチ版ですが、根本的な問題を修正しています。 公式リストには、TRTLLM融合MoE、非ゲート化融合モエトリトン、TRTLLM MoE FP8バックエンド、Mamba/Qwen3.5 SSMキャッシュブロック、MTP処理最適化が含まれており、これ...