Hermes Agent의 Claude 프롬프트 캐시가 '모든 대화가 자동으로 반값'이 아닙니다. 주로 시스템 프롬프트, 스킬, 기억, 반복되는 문맥과 같은 안정적인 접두사 콘텐츠를 캐시합니다; 모델, 제공업체, 프로필을 자주 바꾸거나 매 라운드마다 큰 파일을 새로 넣으면 캐싱 이점은 줄어듭니다.
v0.14 공식 설명에는 Hermes Agent가 Anthropic, OpenRouter, Nous Portal 경로에서 Claude에 크로스 세션 1시간 프롬프트 프리픽스 캐시를 추가한다고 언급되어 있습니다. 초점은 '접두사'에 맞춰져 있습니다: 이전 단락의 안정적인 내용이 일관될수록 도달하기 쉽습니다; 이후 사용자 입력과 도구 결과는 여전히 정상적으로 청구됩니다.
왜 의식이 없는 것 같아
- 처음 사용할 때는 핫 캐시가 없고, 첫 라운드는 보통 바로 저렴하지 않습니다.
- 프로필, 스킬, 메모리 내용도 바뀌었고, 접두사도 바뀌었어요.
- Anthropic에서 OpenRouter나 Nous Portal로 전환할 때, 캐시 링크가 반드시 공유되는 것은 아닙니다.
- 매번 새 파일을 업로드하고 로그를 붙여넣는 것이고, 주요 비용은 새로운 콘텐츠에서 나옵니다.
- 모델이나 제공업체 자체는 예상대로 캐시 할인에 노출되지 않습니다.
그래서 프롬프트 캐시를 모든 사람에게 똑같이 적용되는 비용 절감 스위치로 생각하지 말고, 오히려 '같은 작업 환경을 오랜 시간 사용할 때 가속기'라고 생각하세요.
명중률을 높이는 방법
가장 효과적인 방법은 의미 없는 맥락 지터를 줄이는 것입니다: 동일한 Claude 제공자를 꾸준히 사용하고; 매 라운드마다 시스템 프롬프트나 대용량 메모리 조각을 수정하지 마세요; 프로젝트 규칙을 고정 파일이나 스킬에 넣으세요; 큰 파일은 필요할 때만 다시 읽히며; 짧은 작업은 일상적인 대화를 사용하고, 긴 작업은 캐시의 가치를 높여줍니다.
주로 일회성 Q&A를 한다면 캐싱 수입이 제한적이고; 매일 같은 코드베이스, 같은 기술 세트, 같은 프로필을 사용한다면 1시간 세션 캐싱을 더 쉽게 반영할 수 있습니다. 기능 경계를 확인하고 싶으시면 공식 Hermes Agent 저장소 릴리스를 확인하실 수 있습니다:https://github.com/NousResearch/hermes-agent.
