vLLMTRTLLM, MoE, Mamba/Qwen3.5 캐시, MTP 처리와 같은 패치의 중앙 집중식 구현 뒤에는 백엔드 호환성과 실행 안정성에 계속 중점을 둔 고성능 추론 프레임워크가 있습니다

vLLM 0.17.1 출시: TRTLLM MoE와 MTP 패치가 중앙에서 구현되었으며, 고성능 추론이 안정성을 계속 보완하고 있습니다

vLLM 0.17.1은 0.17.0 위에 구축된 패치 버전이지만, 근본적인 문제들을 해결합니다. 공식 목록에는 TRTLLM 융합 MoE, 비게이트 융합 모에 트라이톤, TRTLLM MoE FP8 백엔드, Mamba/Qwen3.5 SSM 캐시 블록, MTP 처리 최적화가...