llama.cpp 1.0.0 ist eine Inferenz-Engine zum lokalen Ausführen großer Modelle – keine Chat-App und auch nicht das Modell selbst. Die am 13. November 2026 veröffentlichte Version 1.0.0 bringt vor allem ein Versionsversprechen: Breaking Changes an der öffentlichen C-API erhöhen künftig die Major-Version, kompatible neue Funktionen die Minor-Version und Fehlerkorrekturen die Patch-Version. Einsteiger müssen sich nicht ans Kompilieren beeilen – klären Sie zuerst, welcher Weg zu Ihnen passt, und entscheiden Sie dann, ob Sie upgraden.
Drei Dinge, die Einsteiger zuerst klären sollten
- Die Engine führt Modelle nur „aus": Zum Chatten brauchen Sie zusätzlich llama-server, llama.app oder ein übergeordnetes Tool wie Ollama oder LM Studio. Allein mit dem Download der Engine können Sie nicht chatten.
- Modelle müssen im GGUF-Format vorliegen: llama.cpp führt GGUF-Modelldateien aus, nicht jede beliebige Gewichtsdatei funktioniert. Prüfen Sie das Format vor dem Download.
- 1.0.0 ist ein „Stabilitätsversprechen", kein „schneller": Es gibt kein Geschwindigkeitsversprechen, upgraden Sie also nicht wegen der Leistung. Prüfen Sie zuerst die unten genannten Entfernungen, ob sie Sie betreffen.
Prüfen Sie vor dem Upgrade diese zwei Entfernungen
1.0.0 entfernt 35 veraltete öffentliche Funktionen und llama_set_warmup sowie defrag_thold und den Startparameter --defrag-thold. Wenn Sie alte Startskripte weiterverwenden oder selbst Code gegen die API geschrieben haben, durchsuchen Sie sie zuerst nach diesen Namen – jeder Treffer muss angepasst werden, sonst schlägt das Upgrade direkt fehl. Die NextN-API für spekulatives Dekodieren wandert von llama-ext.h in die Haupt-Headerdatei llama.h; Entwickler sollten ihre Referenzen entsprechend anpassen. An neuen Funktionen bringt 1.0.0 OCP-FP8-KV-Cache, MoE-Expert-Caching im Host-Speicher und externes PLE-Shard-Loading, dazu Unterstützung für neue Architekturen wie Kimi-K3.1-Pro. llama-server erhält einen OpenAI-kompatiblen /v1/audio/speech-Endpunkt, und Sicherheitsprobleme wie CORS und DNS-Rebinding wurden behoben.
Drei Wege für Einsteiger
- Am einfachsten: Nutzen Sie die vorgefertigten Binaries oder llama.app. Die 1.0.0-Prebuilds decken Linux, macOS, Windows, Android und iOS ab, dazu Docker, Homebrew, conda-forge und weitere Kanäle – kein Kompilieren nötig.
- Als Dienst: Starten Sie llama-server, das eine OpenAI-kompatible Schnittstelle bereitstellt, an die Sie Ihr eigenes Chat-Frontend anschließen können.
- Zum Selbst-Anpassen: Holen Sie sich den Quellcode aus dem ggml-org-Repository llama.cpp auf GitHub und kompilieren Sie ihn selbst. Das ist etwas für Entwickler; normale Nutzer brauchen diesen Weg nicht.
1.0.0 ist gerade erst erschienen, und alte Bindings und Skripte brauchen Zeit zur Anpassung – überstürzen Sie das Upgrade in der Produktion nicht, sondern testen Sie es zuerst auf einem Testrechner. Auch die Web-UI hat sich deutlich verändert: Die Seitenleiste lässt sich einklappen und Chats lassen sich gruppieren. Eine neue Oberfläche heißt nicht, dass sich alles anders bedient – suchen Sie Einträge zuerst dort, wo Sie sie gewohnt sind, und schauen Sie sich erst dann das neue Layout an.
