Ternary Bonsai 2 est la famille de modèles à poids ternaires de PrismML, conçue pour tourner directement sur les appareils. Le 15 octobre 2026, PrismML a annoncé par communiqué trois ajouts à la gamme, un 2B, un 4B et un 9B, tous construits sur Qwen3.5, ce qui porte la famille à quatre tailles, de 2B à 27B. Les trois nouveaux modèles sont téléchargeables gratuitement dès maintenant sous licence Apache 2.0.
Des poids ternaires qui divisent la taille par dix
Les poids d'un modèle classique en pleine précision occupent 16 bits par paramètre. Ceux de Bonsai 2 ne prennent que trois valeurs : -1, 0 ou +1. Résultat, l'empreinte chute : le 2B ne pèse que 0,43 Go, le 4B 0,95 Go et le 9B seulement 2,00 Go, chacun moins d'un neuvième de son équivalent en pleine précision. Cela prolonge la voie montrée par PrismML plus tôt cette année avec un modèle de vision 1 bit tournant sur des lunettes connectées, démonstration que ce site avait relatée avec le modèle 1 bit sur les lunettes Snapdragon. La petite taille ne sert pas qu'à économiser du stockage : des poids plus légers réduisent la pression sur la bande passante mémoire, et c'est ce qui donne aux processeurs ordinaires et aux GPU de périphérie une chance de contenir la latence.
La vitesse se juge à l'appareil
Selon les chiffres de PrismML, sur un matériel comme une RTX 4090 ou un MacBook M5 Pro, Bonsai 2 atteint jusqu'à environ 3 fois l'efficacité énergétique et 5 fois le débit des modèles pleine précision correspondants, avec un 9B à 124 jetons par seconde au maximum et un 2B à 276. Sur un iPhone 18 Pro Max, le 9B tourne à 34 jetons par seconde et le 2B à 120. Côté capacités, l'entreprise affirme que, sur 19 bancs d'essai, les nouveaux modèles égalent ou dépassent leurs équivalents pleine précision en programmation, en mathématiques et en suivi d'instructions, et conservent plus de 90 % des scores du Qwen3.5 pleine précision en vision, en tâches agentiques et d'appel d'outils, et en connaissances et raisonnement. Ce sont des mesures du fournisseur : les performances réelles restent à vérifier sur ses propres données.
Qui devrait les télécharger pour essayer
Pour les équipes qui construisent des assistants hors ligne sur téléphone, lunettes ou ordinateur portable, ces trois modèles sont une option rare : pas petits en paramètres, mais minuscules en taille, capables d'enchaîner de courtes tâches par appels d'outils, sans connexion réseau ni envoi de données vers le nuage. À l'inverse, si vos charges tournent déjà sur des serveurs GPU et que vous visez la qualité maximale, l'espace gagné par la compression ternaire compte peu, et un grand modèle en pleine précision reste le choix le plus sûr. La concurrence des agents embarqués se déplace de la question de savoir si un modèle peut tourner vers celle de la quantité de capacités qu'on peut loger dans une empreinte aussi réduite, et Bonsai 2 vient de descendre cette échelle d'un cran.
