Der Claude Prompt-Cache von Hermes Agent ist nicht "alle Gespräche sind automatisch zum halben Preis". Es schcacht hauptsächlich stabile Präfixinhalte wie Systemprompts, Fertigkeiten, Speicher und sich wiederkehrende Kontexte; Wenn du regelmäßig Modelle, Anbieter, Profile oder neue große Dateien in jeder Runde änderst, werden die Caching-Vorteile geringer.
Die offizielle Beschreibung für v0.14 erwähnt, dass Hermes Agent auf den Anthropic-, OpenRouter- und Nous Portal-Pfaden einen einstündigen Prompt-Cache-Cross-Session-Cache zu Claude hinzufügt. Der Fokus liegt auf dem "Präfix": Je konsistenter der stabile Inhalt im vorherigen Absatz ist, desto leichter ist es, ihn zu erreichen; Spätere neue Benutzereingaben und Werkzeugergebnisse werden weiterhin normal abgerechnet.
Warum fühlst du dich bewusstlos?
- Beim ersten Einsatz gibt es keinen Hot-Cache, und die erste Runde ist normalerweise nicht sofort günstig.
- Ich habe das Profil, die Fähigkeiten und den Speicherinhalt geändert, und das Präfix wurde geändert.
- Beim Wechsel von Anthropic zu OpenRouter oder Nous Portal werden Cache-Verbindungen nicht unbedingt geteilt.
- Lade jedes Mal neue Dateien hoch und füge neue Protokolle ein, und die Hauptkosten stammen aus neuen Inhalten.
- Das Modell oder der Anbieter selbst ist nicht von Cache-Rabatten ausgesetzt, wie man erwarten würde.
Denk also nicht an Prompt-Cache als einen Einheits-Size-Fits-All-Switch, sondern eher als einen "Beschleuniger, wenn man über längere Zeit dieselben Arbeitskontexte verwendet".
Wie man die Trefferrate verbessert
Der effektivste Ansatz ist, bedeutungsloses kontextuelles Zittern zu reduzieren: Verwenden Sie regelmäßig denselben Claude-Anbieter; Ändere keine Systemeingaben oder große Speicherabschnitte pro Runde; Setze Projektregeln in feste Dateien oder Skills ein; Große Dateien werden nur bei Bedarf erneut gelesen; Kurze Aufgaben verwenden gewöhnliche Gespräche, und lange Aufgaben machen den Cache wertvoller.
Wenn du hauptsächlich einmalige Fragen und Antworten machst, ist das Einkommen aus dem Caching begrenzt; Wenn du jeden Tag mit demselben Codebase, denselben Fähigkeiten und demselben Profil arbeitest, lässt sich eine Stunde Cross-Session-Caching leichter widerspiegeln. Wenn du die Funktionsgrenzen überprüfen möchtest, kannst du dir die offizielle Hermes Agent Repository-Version ansehen:https://github.com/NousResearch/hermes-agent.
