Ternary Bonsai 2 は、PrismML が端末上での実行を狙う三値ウェイトのモデルシリーズである。2026年10月15日、PrismML はこのシリーズに 2B、4B、9B の3モデルを追加すると発表した。いずれも Qwen3.5 を基に構築され、シリーズは 2B から 27B までの4サイズ構成になった。3モデルは同日から Apache 2.0 ライセンスで無償ダウンロードできる。
三値ウェイトで容量は約10分の1に
通常のモデルの全精度ウェイトは1パラメータあたり16ビットを使う。Bonsai 2 のウェイトは -1、0、+1 の3値だけで表される。その結果、容量は大きく下がる。2B は 0.43GB、4B は 0.95GB、9B でも 2.00GB で、いずれも全精度版の9分の1未満だ。これは PrismML が今年、スマートグラス上で 1-bit の視覚モデルを動かして見せた路線の延長であり、本サイトも 1-bit 小型モデルの Snapdragon グラス搭載 として報じた。小さいことの利点は保存容量だけではない。ウェイトが小さいほどメモリ帯域への負荷が下がり、一般的な CPU やエッジ GPU でも遅延を抑えられる余地が生まれる。
速度はデバイス次第
PrismML の公表値によれば、RTX 4090 や MacBook M5 Pro 級のハードウェアでは、Bonsai 2 は対応する全精度モデルと比べ、エネルギー効率で最大約3倍、スループットで最大約5倍を達成し、9B は最大で毎秒124トークン、2B は最大で毎秒276トークンに達する。iPhone 18 Pro Max では 9B が毎秒34トークン、2B が120トークンで動作する。能力面では、同社は19項目のベンチマークで、新モデルがプログラミング、数学、指示追従のタスクで全精度の対応モデルに並ぶか上回り、視覚、エージェントとツール呼び出し、知識と推論のタスクでは全精度 Qwen3.5 の9割超のスコアを保持したとしている。いずれもメーカー測定の数字であり、実際のタスクでの性能は自分のデータで確かめる必要がある。
誰が試すべきか
スマートフォンやグラス、ノートPC 上でオフラインのアシスタントを作りたいチームにとって、この3モデルは「パラメータ数は小さくないのに容量は極小」という珍しい選択肢だ。ネット接続なし、データをクラウドに送らずに、ツール呼び出しで短いタスクの連鎖をこなせる。逆に、もともと GPU サーバーがあり、極限の品質を追う用途なら、三値圧縮で節約できる容量の意味は小さく、全精度の大規模モデルのほうが無難な選択であり続ける。オンデバイスのエージェント競争の焦点は「動くかどうか」から「この小ささにどれだけの能力を詰め込めるか」へ移りつつあり、Bonsai 2 はそのサイズ表を一段下に押し広げた。
