Hermes Agent Claude 缓存不省钱?先看这几个前提
Hermes Agent 的 Claude prompt cache 不是“所有对话都自动半价”。它主要缓存稳定的前缀内容,比如系统提示、技能、记忆和重复上下文;如果你频繁换模型、换 provider、换 profile,或者每轮都塞全新的大文件,缓存收益就会变小。 v0.14 官方说明里提到,He...
AI问答 • Admin •
120
找到 3 篇相关文章
Hermes Agent 的 Claude prompt cache 不是“所有对话都自动半价”。它主要缓存稳定的前缀内容,比如系统提示、技能、记忆和重复上下文;如果你频繁换模型、换 provider、换 profile,或者每轮都塞全新的大文件,缓存收益就会变小。 v0.14 官方说明里提到,He...
Hermes Agent 请求数消耗太快,通常不是“它闲聊太贵”,而是工具调用循环太多:搜索一次、读网页一次、再搜索一次,每一步都可能是单独请求。使用按请求计费的套餐时,要主动限制任务范围和工具迭代。 先判断你是按什么计费 如果你用的是 token 计费,长上下文和大文件读取更容易影响费用;如果你用...
Prompt Caching 指的是把模型请求里那段反复出现的提示前缀缓存下来,后续再遇到同样或高度一致的前缀时,尽量直接复用处理结果,而不是每次都从头算一遍。它这两年之所以越来越热,不是因为名字高级,而是因为越来越多产品终于意识到:固定 system prompt、工具定义、长规则、长文档背景,才...