Ternary Bonsai 2 ist PrismMLs Modellreihe mit ternären Gewichten, gebaut für den Einsatz direkt auf Geräten. Am 15. Oktober 2026 hat PrismML per Pressemitteilung drei Ergänzungen angekündigt: ein 2B-, ein 4B- und ein 9B-Modell, alle auf Basis von Qwen3.5. Die Reihe umfasst damit vier Größen von 2B bis 27B, und die drei Neuen stehen ab sofort unter der Apache-2.0-Lizenz kostenlos zum Download bereit.
Ternäre Gewichte drücken die Größe auf ein Zehntel
Die Vollpräzisions-Gewichte eines üblichen Modells belegen 16 Bit pro Parameter. Bonsai 2 speichert jedes Gewicht dagegen als einen von drei Werten: -1, 0 oder +1. Das Ergebnis ist ein steiler Rückgang des Speicherbedarfs: Das 2B-Modell braucht 0,43 GB, das 4B 0,95 GB und das 9B nur 2,00 GB, jeweils weniger als ein Neuntel des Vollpräzisions-Gegenstücks. Damit setzt PrismML den Weg fort, den das Unternehmen Anfang des Jahres mit einem 1-Bit-Vision-Modell auf einer Smartbrille gezeigt hatte; auch diese Seite berichtete über das 1-Bit-Modell auf der Snapdragon-Brille. Klein ist dabei nicht nur eine Frage des Speicherplatzes: Kleinere Gewichte bedeuten weniger Druck auf die Speicherbandbreite, und erst das gibt normalen CPUs und Edge-GPUs die Chance, die Latenz niedrig zu halten.
Wie schnell es läuft, entscheidet das Gerät
Nach PrismMLs Zahlen erreicht Bonsai 2 auf Hardware wie einer RTX 4090 oder einem MacBook M5 Pro bis zu etwa 3-mal mehr Energieeffizienz und 5-mal mehr Durchsatz als die entsprechenden Vollpräzisions-Modelle; das 9B kommt auf bis zu 124 Token pro Sekunde, das 2B auf bis zu 276. Auf einem iPhone 18 Pro Max läuft das 9B mit 34 Token pro Sekunde, das 2B mit 120. Zur Leistung sagt das Unternehmen, die neuen Modelle lägen in 19 Benchmarks bei Programmierung, Mathematik und Anweisungsbefolgung gleichauf mit ihren Vollpräzisions-Gegenstücken oder darüber und behielten bei Vision, Agenten- und Werkzeugaufgaben sowie Wissen und Schlussfolgern über 90 Prozent der Werte des vollpräzisen Qwen3.5. Das sind Herstellerangaben; die Leistung an echten Aufgaben muss jeder mit eigenen Daten prüfen.
Wer die Modelle herunterladen und testen sollte
Für Teams, die Offline-Assistenten auf Handys, Brillen oder Laptops bauen, sind die drei eine seltene Kombination: nicht klein bei den Parametern, aber winzig bei der Größe, und kurze Aufgabeketten lassen sich per Werkzeugaufruf erledigen, ohne Netzverbindung und ohne Daten in die Cloud zu schicken. Wer dagegen ohnehin GPU-Server betreibt und maximale Qualität sucht, für den zählt das eingesparte Volumen wenig, und ein großes Vollpräzisions-Modell bleibt die sicherere Wahl. Der Wettbewerb bei On-Device-Agenten verschiebt sich von der Frage, ob ein Modell überhaupt läuft, hin zu der Frage, wie viel Fähigkeit in so wenig Speicher passt – und Bonsai 2 hat diese Größentabelle gerade eine Stufe weiter nach unten geschoben.
