AngelSlim이 Hy-MT1.5 저비트 퀀타이저 및 배포를 지원하는 방법

텐센트 Hy-MT1.5-1.8B-1.25비트 오픈 소스: 440MB 휴대폰 오프라인 번역 모델 분석

1. 초록 Hy-MT1.5-1.8B-1.25비트는 텐센트 하이브리드 팀이 출시한 HY-MT1.5-1.8B 기반의 저비트 오프라인 번역 모델로, 매개변수 크기는 1.8B이고 양자 용량은 약 440MB입니다. 모바일 및 엣지 기기에 배포되며, 33개 언어, 5개 방언/소수...