Si l’agent Hermès ne règle pas l’outil après avoir reçu le llama.cpp, ne vous précipitez pas pour changer la configuration d’Hermès. La plupart des problèmes sont triples : l’adresse de l’interface n’est pas compatible OpenAI /v1, le nom du modèle est mal rempli, ou le modèle local lui-même est instable pour supporter les appels d’outils.
Le dépôt officiel des agents Hermès est https://github.com/NousResearch/hermes-agent. La documentation officielle insiste sur le fait que les terminaux personnalisés doivent être configurés de manière compatible OpenAI ; Quickstart rappelle aussi au modèle local d’avoir au moins assez de contexte. Pour llama.cpp, pouvoir discuter ne signifie pas pouvoir appeler des outils de manière stable, ce qui est le plus trompeur.
Étape 1 : D’abord, confirmez que l’interface peut répondre normalement
Testez d’abord l’interface avec un minimum de requêtes, et ne laissez pas Hermes Agent exécuter des tâches complexes avec des outils dès le départ. L’adresse doit généralement être similaire à celle de http://127.0.0.1:8080/v1, et le nom du modèle doit être cohérent avec l’exposition du serveur. Vous pouvez d’abord consulter la liste des modèles, puis envoyer une demande de chat régulière. Si les requêtes normales échouent, l’Agent Hermès ne fonctionnera certainement pas.
Étape 2 : Confirmez qu’il ne s’agit pas d’une erreur base_url écrite
Beaucoup de gens écrivent l’adresse comme http://127.0.0.1:8080, mais l’interface compatible réelle doit être /v1. Lors de la configuration d’un point de terminaison personnalisé via hermes model, concentrez-vous sur la vérification de l’URL de base, de la clé API et des valeurs du modèle. La clé API peut n’être qu’un lieu de placement dans le service local, mais elle ne peut pas être vide ou mal placée.
Étape 3 : Testez l’accessibilité de l’outil individuellement
Même si le modèle local peut discuter, il se peut qu’il ne revienne pas au format d’appel d’outil. Typiquement : il est indiqué « J’exécuterai des commandes » en mots, mais ne déclenche pas réellement le terminal, le fichier ou l’outil du navigateur ; Ou de sortir un extrait JSON sans former d’appel valide. Dans ce cas, priorisez le passage à un modèle qui supporte explicitement l’appel d’outils, ou déléguez des tâches axées sur des outils au modèle cloud.
Pratique stable recommandée
- Tout d’abord, utilisez le modèle validé pour l’exécuter dans la chaîne d’outils Hermes Agent.
- Ensuite, connectez-llama.cpp comme un modèle de chat normal pour confirmer la réponse, le contexte et la rapidité.
- Enfin, ne testez que l’appel d’outil pour une tâche simple d’outil.
- Lorsque vous lisez des fichiers, exécutez des commandes ou modifiez des projets pendant longtemps, gardez un fournisseur de sauvegarde qui prend en charge les appels d’outils.
La conclusion est que lorsque :llama.cpp’accès échoue, l’ordre de dépannage devrait être terminaison, modèle, contexte et capacité d’appel d’outil, plutôt que de réinstaller à plusieurs reprises l’agent Hermes. Testez d’abord l’interface locale puis connectez-vous à Hermès, le problème sera bien moindre.
