ToolNavs Outils IA à découvrir
Proposer Connexion
Retour à Questions et réponses sur l’IA
llama.cpp 1.0.0 pour débutants : trois choses à vérifier avant d'exécuter un modèle en local

llama.cpp 1.0.0 pour débutants : trois choses à vérifier avant d'exécuter un modèle en local

Questions et réponses sur l’IA • Admin • • 3 vues

llama.cpp 1.0.0 est un moteur d'inférence pour exécuter de grands modèles en local — ce n'est pas une application de chat, ni un modèle en soi. Publiée le 13 novembre 2026, la version 1.0.0 apporte surtout une promesse de versionnement : les changements incompatibles de l'API C publique feront désormais l'objet d'une mise à jour majeure, les nouvelles fonctionnalités compatibles d'une mise à jour mineure, et les corrections de bugs d'une mise à jour de correctif. Les débutants n'ont pas besoin de se précipiter pour compiler — déterminez d'abord la voie qui vous convient, puis décidez de mettre à jour ou non.

Trois choses à comprendre d'abord

  • Il ne fait que « faire tourner » les modèles : pour discuter, il faut l'associer à llama-server, llama.app ou à un outil de plus haut niveau comme Ollama ou LM Studio. Télécharger le moteur seul ne suffit pas pour discuter.
  • Les modèles doivent être au format GGUF : llama.cpp exécute des fichiers de modèle GGUF, donc tous les poids ne fonctionneront pas directement. Vérifiez le format avant de télécharger.
  • 1.0.0 est une « promesse de stabilité », pas « plus rapide » : aucune amélioration de vitesse n'est promise, ne mettez donc pas à jour pour les performances. Vérifiez d'abord ci-dessous si les suppressions vous concernent.

Vérifiez ces deux suppressions avant de mettre à jour

La version 1.0.0 supprime 35 fonctions publiques obsolètes ainsi que llama_set_warmup, et supprime defrag_thold et l'option de démarrage --defrag-thold. Si vous réutilisez d'anciens scripts de lancement ou avez écrit du code appelant l'API, recherchez d'abord ces noms — toute occurrence doit être corrigée, sinon la mise à jour échouera directement. L'API NextN de décodage spéculatif passe de llama-ext.h au fichier d'en-tête principal llama.h, les développeurs doivent donc mettre à jour leurs références. Côté nouveautés, 1.0.0 ajoute le cache KV OCP FP8, la mise en cache des experts MoE en mémoire hôte et le chargement de fragments PLE externes, ainsi que la prise en charge de nouvelles architectures comme Kimi-K3.1-Pro. llama-server gagne un point de terminaison /v1/audio/speech compatible OpenAI, et des problèmes de sécurité, notamment CORS et le rebinding DNS, ont été corrigés.

Trois façons de débuter

  • Le plus simple : utilisez les binaires précompilés ou llama.app. Les précompilés 1.0.0 couvrent Linux, macOS, Windows, Android et iOS, avec Docker, Homebrew, conda-forge et d'autres canaux — pas besoin de compiler.
  • Pour l'utiliser comme service : lancez llama-server, qui expose une interface compatible OpenAI à laquelle relier votre propre interface de chat.
  • Pour le modifier vous-même : récupérez le code source dans le dépôt ggml-org llama.cpp sur GitHub et compilez-le. C'est une voie pour les développeurs ; les utilisateurs ordinaires n'en ont pas besoin.

La version 1.0.0 vient de sortir, et les anciennes liaisons et scripts ont besoin de temps pour s'adapter — ne précipitez pas la mise à jour en production, faites-la d'abord fonctionner sur une machine de test. L'interface web a elle aussi pas mal changé : la barre latérale peut se replier et les discussions peuvent être regroupées. Une nouvelle interface ne signifie pas que tout fonctionne différemment : cherchez d'abord les entrées là où vous avez l'habitude de les trouver, puis explorez la nouvelle disposition.

Outils Recommandés

Plus