Blackwell 의 MoE 디코딩 경로를 커서로 재작성하여 Composer 의 반복 속도를 1. 84 배 향상시킵니다.
C ur s or 官方称,这项底层优化带来 1.84 倍推理吞吐提升,同时让输出结果更接近 FP32 参考值;相关改进也已用于 Composer 的训练流程,以加快模型迭代和版本发布。 C urs or 는 Mo E 의 디 코 딩 을 다시 작성 했습니다 이 업데이트 의 핵심 은 단순히 모...
AI 정보 • Admin •
121