Moteur d’inférence LongCat vLLM

Le grand modèle 560B LongCat-Flash-Chat est en ligne : l’inférence de l’IA est entrée dans l’ère du 100 TPS

Sortie de LongCat-Flash-Chat : le grand modèle de paramètre 560B ouvre une nouvelle ère de l’inférence IA avec 100 TPS Le LongCat-Flash-Chat lancé par...