PLaMo 3 Translate는 11월 5일 오픈 웨이트 모델로 공개됐다. 일본 Preferred Networks(PFN)가 자사 번역 서비스에 사용하는 번역 특화 대형 언어 모델을 개발자들에게 넘겨 Hugging Face에 공개한 것이다. 이번에 공개된 것은 온라인 서비스가 아니라 기기에 직접 탑재할 수 있는 모델 가중치 집합으로, 일본어와 영어를 포함해 53개 언어를 지원한다. PFN은 엣지 기기에서의 고품질 번역을 가능하게 하는 것이 목적이며, 관광, 비즈니스, 재난 대응 등의 활용을 염두에 두고 있다고 설명했다.
| 크기 | 파라미터 수 | | 0.8B | 8억 개 파라미터 | | 2B | 20억 개 파라미터 | | 8B | 80억 개 파라미터 | | 31B | 310억 개 파라미터 |
네 가지 크기는 어떻게 고를까
크기는 0.8B, 2B, 8B, 31B 네 가지이며, 개발자는 번역 품질, 속도, 처리량, 기기에 따라 선택한다. PFN은 가장 작은 0.8B 모델이 비행기 모드의 스마트폰에서 오프라인으로 동작하는 시연을 보여, 네트워크 없이도 번역문을 얻을 수 있음을 밝혔다. PFN 자체 비교 평가에서는 가장 작은 모델도 구글의 TranslateGemma와 텐센트의 Hy-MT2 같은 번역 특화 모델보다 높은 점수를 기록했지만, 이는 발표 측의 자체 평가이며 독립적인 재현 결과는 아직 지켜봐야 한다. 이 모델은 용어집을 이용해 고유명사와 전문 용어의 번역을 고정할 수 있고, 문맥을 참고해 출력을 조정할 수 있다. 일본어로 번역할 때는 경체와 상체를 지정할 수 있어, 비즈니스 문서와 사내 자료에 실용적인 세부 사항이다.
무료 이용의 경계는 어디인가
이번 소식에서 가장 주의 깊게 읽어야 할 대목은 라이선스 조건이다. PLaMo 커뮤니티 라이선스에 따라, 직전 사업연도 수입 또는 매출이 10억 엔 이하인 기업과 개인은 상업적·비상업적 용도를 막론하고 스마트폰, 노트북, 사내 서버에서 모델을 무료로 다운로드해 사용할 수 있다. 그 범위를 넘는 상업적 이용에는 PFN과의 별도 상업 라이선스 계약이 필요하다. 모델 자체는 PFN과 일본 정보통신연구기구(NICT)의 공동 연구로 얻은 사전 학습 모델 PLaMo 3 NICT를 기반으로 개발됐다. 또 하나의 실질적인 장점은 기밀성이다. 자체 관리 서버나 단말에서 모델을 실행하면 원문과 번역문을 외부 서버로 보낼 필요가 없어, 계약서, 연구개발 자료, 고객 대응 문서 같은 제한 문서도 내부에서 번역을 마칠 수 있다.
