Coze peut-il appeler des grands modèles locaux ? Oui, mais seulement si vous parlez de Coze Studio comme un environnement déployable, plutôt que de comprendre le web comme un site de chat classique. Beaucoup de personnes dans la communauté posent cette question, et le scénario le plus courant est que vous gériez LM Studio, Ollama ou d’autres services de modèles localement et que vous vouliez les connecter directement à Coze.
Les dépôts officiels open source de Coze Studio sont https://github.com/coze-dev/coze-studio. Le README officiel l’a positionné comme un outil de développement d’agent IA tout-en-un, donc ce n’est pas que le modèle local ne puisse pas être connecté, mais il faut vérifier si l’interface du modèle, le protocole et le fichier de configuration sont vraiment alignés.
Ne vous précipitez pas pour demander « pouvez-vous le faire », demandez d’abord « quelle est l’interface ? »
La possibilité de connexion ou non du modèle local dépend non pas de la localisation du modèle, mais du fait qu’il fournisse des interfaces que Coze peut reconnaître. Beaucoup de gens pensent que tant qu’un port est ouvert, cela en dépend en réalité :
- Est-ce compatible avec des interfaces de type OpenAI ?
- Existe-t-il un « base_url » correct ?
- Les noms de modèles, types de protocoles et déclarations de capacités sont-ils cohérents ?
Les points de blocage les plus courants dans la communauté
La première catégorie fait référence à l’adresse de la page au lieu de base_url à l’adresse API. Le second type est que le service modèle peut discuter, mais ne prend pas en charge la méthode de requête dont Coze a besoin. Le troisième type est que le modèle local lui-même fonctionne, mais que vous choisissez le mauvais protocole dans Coze, comme écrire un modèle qui devrait aller à la couche de compatibilité OpenAI comme un autre protocole.
Un autre point facile à négliger est que le fait qu’un modèle puisse « tourner nativement » ne signifie pas s’il peut être « réglé par Coze ». Le premier est un problème de couche modèle, et le second est un problème de couche requête, qui doit souvent être examiné séparément.
Une connexion relativement stable
Si votre modèle local offre une interface compatible OpenAI, accèdez-y de manière minimisée : ne gardez qu’un seul modèle, un base_url et une clé API, et ne mettez pas en fusion les bases de connaissances, les workflows et les plugins au départ. Après avoir pu exécuter la requête minimale, ajoutez lentement des fonctions. Quand quelque chose tourne mal, vous savez si le modèle est connecté au mauvais modèle ou s’il y a un problème avec la configuration du workflow plus tard.
Conclusion d’une phrase
Coze peut appeler des modèles locaux de grande taille, mais seulement si vous les connectez selon l’interface et le protocole, plutôt que de simplement brancher des « modèles locaux ». Associez d’abord les capacités de « base_url », protocole et modèle, et le taux de réussite sera bien plus élevé.
