Hermes Agent 接 llama.cpp 不调工具怎么办?
Hermes Agent 接 llama.cpp 后不调工具,先不要急着改 Hermes 配置。大多数问题出在三处:接口地址不是 OpenAI 兼容的 /v1 ,模型名填错,或者本地模型本身不稳定支持工具调用。 Hermes Agent 官方仓库是 https://github.com/NousRe...
找到 8 篇相关文章
Hermes Agent 接 llama.cpp 后不调工具,先不要急着改 Hermes 配置。大多数问题出在三处:接口地址不是 OpenAI 兼容的 /v1 ,模型名填错,或者本地模型本身不稳定支持工具调用。 Hermes Agent 官方仓库是 https://github.com/NousRe...
Hermes Agent 接 Ollama 的关键是把 Ollama 当成 OpenAI 兼容的 custom endpoint。能跑起来不难,真正容易踩坑的是上下文长度太小:工具 schema 加系统提示就可能占满 4k 上下文,导致 agent 看起来“失忆”或不会调工具。 基本步骤 ollam...
Hermes Agent 在 Telegram 里看不到自定义模型,不一定是模型没配置成功。最近社区反馈里提到,自定义/Ollama 模型选择器显示问题有单独追踪;换句话说, CLI 能用和 Telegram picker 能列出来不是同一件事 。 先确认模型到底能不能用 - 在 CLI 里用 he...
Hermes Agent 出现类似 skills_listskills_list 的重复工具名,优先怀疑模型输出格式,而不是 skill 本身坏了。社区讨论里这个现象被归到模型输出解析问题:模型把工具名重复吐出来,Hermes 没法按正常工具调用解析。 先怎么止血 - 切到一个工具调用更稳的模型测试...
Hermes Agent 本地模型记忆失效,很多时候不是记忆系统没开,而是模型不会稳定调用记忆工具。社区里有人用小型 Qwen 本地 endpoint 遇到类似问题:配置里 memory_enabled 是开的,但模型在 memory ops 上表现不稳定。 先分清两类问题 配置没开 :记忆文件、p...
Hermes Agent 主模型用本地模型,不代表所有任务都离线。官方 Fallback Providers 文档写得很清楚:vision、web extract、compression、session_search、skills_hub、MCP、memory flush 都有独立的 auxilia...