HY-MT1.5 FP8およびGPTQ Int4定量選択

騰訊渾源 騰訊-HY-MT1.5オープンソース:1.8Bエンドサイド翻訳と7Bクラウド協働実用解釈

1. 要旨 Tencent-HY-MT1.5(HY-MT)は、Tencentのオープンソースの機械翻訳モデルスイートであり、1.8B(部分的側面/低リソース)と7B(部分的クラウド/高品質)の2つのスケールを含んでいます。 当局は「デバイス側+クラウド側」への共同展開を強調しています。デバイスの低遅...