Ob Flint auf einem Laptop läuft, beginnt mit der Frage, ob der Speicher 48 GB erreicht. Flint ist das Open-Source-Coding-Modell, das Recursive am 21. Oktober 2026 veröffentlicht hat, mit etwa 39,8 Milliarden Gesamtparametern und etwa 2,5 Milliarden pro Token aktiviert, einem Kontext von 262.144 Token laut Modellkarte und einer Apache-2.0-Lizenz. Der offizielle lokale Weg ist klar: 4-Bit-quantisierte Gewichte von etwa 22,6 GB bis 22,9 GB, mindestens 48 GB einheitlicher Speicher oder GPU-Speicher empfohlen, und auf Apple-Silicon werden ein M4 Pro, M5 Pro oder M5 Max benötigt, um die offizielle Inferenz-Engine zu betreiben. Reicht der Speicher nicht an dieses Niveau heran, laden Sie noch nicht herunter; einmal heruntergeladen, passt es nicht hinein und läuft nicht stabil.
Der Grund, warum Flint schnell läuft, liegt in der aktivierten Menge. Alle 40 Milliarden Parameter müssen in den Speicher passen, aber jedes Token berechnet nur etwa 2,5 Milliarden, sodass der Rechenaufwand pro Schritt klein ist und die offizielle Engine auf einem M4 Pro bei kurzen Kontexten Dekodiergeschwindigkeiten von über 125 Token pro Sekunde erreichen kann. Die Geschwindigkeitszahlen haben Bedingungen: kurzer Kontext, Einzelstrom-Dekodierung und die offizielle Engine; wenn der Kontext länger wird, wächst der vom Key-Value-Cache belegte Speicher und die Geschwindigkeit sinkt, sodass lange Repository-Fragen zuerst mit einem kleinen Test erprobt werden sollten, bevor Zeit geschätzt wird. Auch die Gewichtsformate müssen richtig gewählt werden: BF16-Vollgenauigkeit ist etwa 80 GB groß und zielt auf Rechenzentrums-Grafikkarten; Laptops sollten die offiziellen INT4- oder NVFP4-quantisierten Builds verwenden, und bei Community-GGUF-Builds muss bestätigt werden, dass die Toolchain die Flint-Architektur bereits unterstützt, da ältere llama.cpp-Builds die neue Architektur möglicherweise nicht erkennen. Flint ist ein Coding-Spezialmodell: Code schreiben, Repositories erkunden, Fehler beheben und Tests schreiben sind seine Hauptaufgabe; alltägliches Plaudern und allgemeine Fragen sind nicht seine Stärken, vergleichen Sie es also nicht mit einem Allzweck-Chatmodell.
Wer es versuchen sollte und wer noch nicht
Geeignet zum Ausprobieren sind Personen mit 48 GB oder mehr Speicher auf einem Mac oder einer 64-GB-Grafikkarte, die wirklich einen Coding-Agenten lokal betreiben müssen; beginnen Sie mit den offiziellen quantisierten Gewichten und der offiziellen Engine, bringen Sie kurze Kontexte zum Laufen und verlängern Sie dann. Noch nicht versuchen sollten Nutzer gewöhnlicher Laptops mit 16 GB oder 24 GB Speicher: Die Gewichte passen nicht hinein, und erzwungenes Ausführen führt nur zu wiederholtem Paging und unbrauchbar langsamem Lauf; ebenso Personen, die nur gelegentlich ein paar Coding-Fragen stellen, die mit einer gehosteten API oder einem kostenlosen Online-Einstieg schneller sind. Messen Sie vor der Entscheidung drei Dinge: Speicherkapazität, verbleibenden Plattenplatz und die Kontextlänge des zu bearbeitenden Repositorys; laden Sie nur herunter, wenn alle drei bestehen, und wenn eines nicht besteht, nutzen Sie zuerst den gehosteten Dienst. Ein Modell lokal zu betreiben, spart nutzungsabhängige Abrechnung und kostet Hardware und Zeit; die Rechnung muss zusammen gezählt werden.
