AngelSlimがHy-MT1.5の低ビット量子化と展開をサポートする方法

テンセントHy-MT1.5-1.8B-1.25ビットオープンソース:440MB携帯電話オフライン翻訳モデル解析

1. 要旨 Hy-MT1.5-1.8B-1.25bitは、Tencentのハイブリッドチームが導入したHY-MT1.5-1.8Bをベースにした低ビットオフライン翻訳モデルで、パラメータサイズは1.8B、量子化ボリュームは約440MBです。 モバイルおよびエッジデバイス向けに展開されており、33言語、...