ToolNavs 유용한 AI 도구 찾기
도구 제출 로그인
돌아가기 AI는 오픈 소스입니다.
PLaMo 3 Translate, 써볼 만할까: 스마트폰에서 53개 언어 오프라인 번역, 배포 전 확인할 세 가지

PLaMo 3 Translate, 써볼 만할까: 스마트폰에서 53개 언어 오프라인 번역, 배포 전 확인할 세 가지

AI는 오픈 소스입니다. • Admin • • 11 회 조회

PLaMo 3 Translate는 일본 Preferred Networks(PFN)가 11월 5일 가중치를 공개한 번역 전용 모델로, 53개 언어를 지원하며 가장 작은 0.8B 버전은 스마트폰에서 오프라인으로 번역할 수 있다. 인터넷 없이, 원문을 클라우드로 보내지 않고 번역하는 것이 목적이라면 시도해 볼 만하다. 반면 채팅이나 코딩, 범용 어시스턴트로 쓰려는 사람이라면 다른 모델을 고르는 것이 낫다.

공식 저장소와 화제성

가중치는 Hugging Face에 있으며 조직명은 pfnet, 네 개의 저장소는 plamo-3-translate-0.8b, 2b, 8b, 31b이다. PFN 자사의 번역 서비스 PLaMo Translation에서 나온 모델로, 기반은 일본 정보통신연구기구(NICT)와 공동 개발한 PLaMo 3 NICT에 수백억 토큰의 번역 데이터를 추가 학습한 것이다. 문맥과 용어집을 입력으로 받을 수 있고, 일본어는 평서체와 경어체를 선택할 수 있다. 라이선스는 PLaMo Community License로, 개인 이용과 비상업적 이용은 무료이며 전년도 매출 10억 엔 이하 기업의 상업적 이용도 무료이고, 그 이상은 별도 협의가 필요하다.

배포 비용과 시작 방법

크기는 기기에 맞춰 고른다. 0.8B는 스마트폰과 웨어러블용, 2B는 가벼운 노트북용, 8B는 GPU나 Mac이 필요하고, 31B는 서버에서나 감당할 수 있는 최고 품질 버전이다. 형식도 넉넉하다. BF16 외에 FP8, W4A16, NVFP4 같은 양자화 버전과 GGUF, MLX 형식이 있어 Transformers, vLLM, llama.cpp, mlx-lm에 대응한다. 시작은 세 단계다. 기기에 맞게 크기와 형식을 정하고, Hugging Face의 pfnet 조직에서 해당 저장소를 내려받은 뒤, 맞는 추론 프레임워크로 로컬에 올린다. PFN은 0.8B가 비행기 모드의 스마트폰에서 번역하는 모습을 시연했지만 어디까지나 내부 데모이며, 공식 스마트폰 앱은 아직 없다. 스마트폰에서 쓰려면 직접 통합하거나 서드파티 앱을 기다려야 한다.

함정과 한계

첫째, 이 모델은 번역만 한다. 범용 모델이 아니므로 채팅이나 추론, 코딩에 쓰면 실망하게 된다. 둘째, 한 번의 입출력 합계 상한은 32768토큰이라 긴 문서는 나눠서 번역해야 한다. 셋째, 오프라인은 진짜 오프라인이지만 품질은 크기를 따라간다. 0.8B의 가치는 휴대성에 있고, 품질을 따지려면 8B나 31B가 필요하다. 넷째, 라이선스는 Apache 2.0 같은 관대한 라이선스가 아니다. 상업적 이용 전에 PLaMo Community License와 자사 매출을 대조해야 한다. 번역만 필요하고 데이터가 내부 네트워크를 벗어나지 않는 것을 중시하는 팀과 개발자라면 도전해 볼 만하고, 개봉 즉시 쓸 수 있는 것을 원하는 일반 사용자라면 완성된 스마트폰 앱을 기다리는 편이 수고를 덜 수 있다.

추천 도구

더보기