LongCat SGLangの導入

560B大型モデルLongCat-Flash-Chatがオンライン:AI推論は100TPSの時代に突入しました

LongCat-Flash-Chat がリリース: 560B パラメータの大規模モデルが 100 TPS の AI 推論の新時代を開く 美団チームが立ち上げた LongCat-Flash-Chat は、合計 560B のパラメーターと 18.6B-31.3B の動的アクティベーションをコア ハイライ...