Am 12. November 2026 kündigte Edge0 im offiziellen Blog an, Edge0-145B und das kleinere Edge0-120B als Open Source zu veröffentlichen — zusammen mit dem Inferenz-Framework und den Deployment-Tools. Edge0-145B gilt als das weltweit erste Open-Source-On-Device-Modell mit 145 Milliarden Parametern und soll Coding, Reasoning und Agentenarbeit aus der Cloud auf den persönlichen Computer holen. Der Code steht unter der Apache-2.0-Lizenz, die Gewichte liegen auf Hugging Face.
Wie passen 145B Parameter in einen Laptop?
Der Trick: Es läuft immer nur ein kleiner Teil. 145B ist die Gesamtzahl der Parameter, doch an jedem Inferenzschritt sind nur etwa 10 Milliarden beteiligt. 64 Experten teilen sich zwei große Matrizen, jeder behält nur wenige eigene Parameter. Auch das Laden ist in drei Stufen aufgeteilt: Häufig genutzte Experten bleiben im GPU-Speicher, eine Expertenbibliothek von etwa 40 GB liegt im Systemspeicher, und etwa 48 GB Vokabulardaten bleiben auf der SSD und werden bei Bedarf gelesen; CPU und GPU arbeiten parallel, und Speculative Decoding prüft mehrere Kandidaten-Tokens auf einmal. Die genannten Zahlen: 29 GB Spitzen-Speicher, über 1.100 Tokens pro Sekunde Prefill, über 80 Tokens pro Sekunde Decoding, 128K–256K Kontext und etwa 120 W typische Leistung — ab Tag eins für macOS, Windows und Linux, inklusive Apple-M-Chips und NVIDIA-RTX-Plattformen. Diese Zahlen stammen aus Edge0s eigenen internen Tests und wurden nicht unabhängig reproduziert.
Benchmarks fast auf Cloud-Niveau — mit offen genannten Einschränkungen
In Edge0s internen Bewertungen erreicht Edge0-145B 64,6 Punkte auf DeepSWE 1.1, vor Qwen3.8-Flash-Next mit 58,7; 86,52 auf Terminal-Bench 2.1 und 90,4 auf GPQA-Diamond, im Mittel 72,8 über sechs Benchmarks, bei etwa 40 % des Speicherverbrauchs einer vergleichbaren Baseline. In den Demos erledigte das Modell schwere Arbeit komplett lokal: eine Manhattan-Straßenszene in Blender bauen, das Programm schreiben, mit dem eine echte Drohne einen roten Rucksack findet, und in KiCad eine Platine von Grund auf zeichnen und als Montageanimation rendern — alles ohne einen Cloud-Aufruf. Die Hürde für lokale Modelle ist damit nicht verschwunden: 29 GB Spitzen-Speicher bedeuten, dass ein gewöhnlicher Laptop mit 16 GB es nicht schafft; 48-GB-Geräte sind die Zielgruppe. Das ist dieselbe Schlussfolgerung wie damals, als Mistral Large 4 seine 1T-Parameter-Gewichte öffnete: Herunterladbare Gewichte heißen nicht, dass jeder sie ausführen kann. Frühere lokale Werkzeuge wie Ollama machten kleine Modelle benutzbar; Edge0 wettet auf die andere Seite — das große Modell selbst kleiner und günstiger zu machen und dann in einen persönlichen Rechner zu packen.
Für Entwickler liegt die eigentliche Veränderung nicht in den Benchmarks, sondern in der Rechnung: Lokale Inferenz kostet keine Token-Gebühren, Code und Daten können auf dem eigenen Rechner bleiben, und die Arbeit läuft auch offline weiter; dafür zahlt man Hardware und Strom selbst, und für Modell-Updates, Langzeitgedächtnis und aktuelle Informationen braucht es weiterhin die Cloud. Ob das 145B-Modell die Begeisterung von Edge0-35B wiederholen kann, das im September die Hugging-Face-Trending-Charts anführte, hängt davon ab, ob Praxistests aus der Community die offiziellen Zahlen stützen.
