PLaMo 3 Translateは、日本のPreferred Networks(PFN)が11月5日に重みを公開した翻訳専用モデルで、53言語に対応し、最小の0.8B版はスマートフォンでオフライン翻訳ができる。ネットにつながず、原文をクラウドに送らない翻訳が目的なら試す価値がある。一方で、チャットやコーディング、汎用アシスタントとして使いたいなら、別のモデルを選んだほうがいい。
公式リポジトリと話題性
重みはHugging Faceにあり、組織名はpfnet、4つのリポジトリはplamo-3-translate-0.8b、2b、8b、31bだ。PFNの翻訳サービス「PLaMo Translation」から生まれたモデルで、ベースは情報通信研究機構(NICT)と共同開発したPLaMo 3 NICTに、数百億トークンの翻訳データを追加学習したものだ。文脈や用語集を入力でき、日本語は常体と敬体を選べる。ライセンスはPLaMo Community Licenseで、個人利用と非商用利用は無料、前年度の売上高が10億円以下の企業の商用利用も無料で、それを超える場合は別途交渉が必要になる。
導入コストと始め方
サイズはデバイスに合わせて選ぶ。0.8Bはスマートフォンやウェアラブル向け、2Bは軽量ノートPC向け、8BはGPUかMacが必要、31Bはサーバーでなければ扱えない最高品質版だ。フォーマットも充実しており、BF16のほかにFP8、W4A16、NVFP4などの量子化版、GGUFとMLX形式があり、Transformers、vLLM、llama.cpp、mlx-lmに対応する。始め方は3ステップ。デバイスに合わせてサイズとフォーマットを決め、Hugging Faceのpfnet組織から対応するリポジトリをダウンロードし、対応する推論フレームワークでローカルに読み込む。PFNは0.8Bが機内モードのスマートフォンで翻訳するデモを公開しているが、あくまで社内デモで、公式のスマホアプリはまだない。スマホで使うには自分で組み込むか、サードパーティ製アプリを待つ必要がある。
落とし穴と限界
第一に、これは翻訳専用で汎用モデルではない。チャットや推論、コーディングに使えばがっかりする。第二に、1回の入出力の合計上限は32768トークンで、長い文書は分割してから翻訳する必要がある。第三に、オフラインは本物のオフラインだが、品質はサイズに比例する。0.8Bの価値は携帯性にあり、品質を追求するなら8Bか31Bが必要だ。第四に、ライセンスはApache 2.0のような寛容なものではない。商用利用の前にPLaMo Community Licenseと自社の売上高を照らし合わせること。翻訳だけが目的で、データが社内ネットワークから出ないことを重視するチームや開発者なら取り組む価値がある。開封してすぐ使えるものを求める一般ユーザーには、完成したスマホアプリを待つほうが手間がかからない。