MoE 모델

Blackwell 의 MoE 디코딩 경로를 커서로 재작성하여 Composer 의 반복 속도를 1. 84 배 향상시킵니다.

C ur s or 官方称，这项底层优化带来 1.84 倍推理吞吐提升，同时让输出结果更接近 FP32 参考值;相关改进也已用于 Composer 的训练流程，以加快模型迭代和版本发布。 C urs or 는 Mo E 의 디 코 딩 을 다시 작성 했습니다 이 업데이트 의 핵심 은 단순히 모...