Am 23. Oktober 2026 hat NVIDIA im offiziellen Technikbericht Nemotron 3.5 Bolt E4B vorgestellt – ein Open-Source-Kleinmodell, beworben mit der höchsten "Intelligenzdichte pro GB". Es basiert auf Googles Gemma 4 E4B, wurde mit NVIDIAs Nemotron-Post-Training verfeinert und erscheint zusammen mit offen gelegten Trainingsdatensätzen und dem vollständigen Rezept.
Ein Agent in 4 GB
Bolt E4B braucht unter seiner Ziellast nur rund 4 GB VRAM: Der Q4_K_M-quantisierte Build belegt 3,1–4,3 GB – 3,5 GB auf einer RTX 5070, 4,2 GB auf einem Jetson Orin Nano 8GB (laut offiziellen Tests). Es unterstützt mehrstufige Tool-Aufrufe (inklusive Anleitung für asynchrone Aufrufe), einen conversational_mode-Schalter (kurze, sprachtaugliche Antworten), konfigurierbare Obergrenzen für Reasoning- und Denk-Budgets, 64K Kontext und 35 Sprachen. NVIDIA gibt an, dass seine durchschnittliche Qualität auf zentralen Dialog-Agenten-Benchmarks rund 40 % über dem Vorgänger Nano 4B liegt und es bei aktiviertem Reasoning mit bis zu 80 % weniger Output-Tokens auskommt als vergleichbare Modelle.
Im Peer-Vergleich: mehr Siege als Niederlagen
In den 21 veröffentlichten Vergleichs-Benchmarks führt Bolt E4B in 15 vor Gemma 4 E4B, Qwen 3.5 4B und dem Vorgänger Nano 4B; bei IHEval erreicht es 84,8 Punkte gegenüber 67,0 und 60,6 der Konkurrenz. Es ist das dritte Mitglied der Nemotron-3.5-Familie – nach dem visionsorientierten Super VL und dem 74B-Parameter-Modell Bolt 74B-A9B – und das kleinste der Familie.
Schwächen und Grenzen
Führend heißt nicht überall führend. Bei Tau2-Bench erzielt Bolt E4B 55,1 Punkte, rund 20 weniger als Qwen 3.5 4B mit 75,1 – bei mehrstufigen Dialog-Agenten-Aufgaben ist es nicht das stärkste. Alle Zahlen stammen aus NVIDIAs offiziellem Technikbericht, eine unabhängige Drittprüfung steht noch aus; und 4 GB gilt für den quantisierten Build, mit höherer Präzision oder längerem Kontext steigt der Speicherbedarf.
Für wen das relevant ist
Das Modell ist bereits über Hugging Face, Ollama, LM Studio, Unsloth, Canonical, Jetson AI Lab und das NVIDIA In-Game Inferencing SDK verfügbar. Zu den Demos gehören ein Reachy-Mini-Roboter auf einem Jetson Orin Nano 8GB – Cosmos 3 Edge übernimmt die Bildverarbeitung, Bolt E4B Sprache und Tool-Aufrufe – sowie eine Schmiede-NPC-Handelsdemo im Spiel. Da das Rezept vollständig offen ist, können Forscher und kleine Teams es direkt reproduzieren oder feintunen – kleine Modelle entwickeln sich vom bloßen "Lauffähig" zum "Für Agenten-Workflows gebaut".