OpenAI 프롬프트 캐싱의 보존 시간이 30분에서 12시간으로 늘어났다. OpenAI 개발자 계정은 2026년 10월 20일, Responses API에 선택형 12시간 캐시 등급이 추가됐다고 발표했다. 공유되는 지침, 도구 정의, 컨텍스트가 몇 시간 간격을 두고 다시 적중해도 캐시 입력 가격으로 청구된다. Codex 책임자 Tibo Sottiaux는 이어서 Codex와 Work의 로그인 사용자는 캐시가 무기한 보존되어, 얼마나 시간이 지난 뒤 오래된 대화로 돌아와도 적중이 보장되고 만료 페널티가 사라졌다고 밝혔다.
12시간 등급은 쓰기가 비싼 대신 기다림이 싸다
| 등급 | 최소 보존 | 쓰기 가격 | 읽기 가격 |
|---|---|---|---|
| 기본 30m | 30분 | 입력 가격의 1.25배 | 입력 가격의 0.1배 |
| 신규 12h | 12시간 | 입력 가격의 2.5배 | 입력 가격의 0.1배(GPT-6.1 Sol은 0.05배) |
두 수치 모두 '최소 보존'이며 시스템이 더 오래 유지할 수도 있다. 12시간 등급의 계산은 단순하다. 쓸 때 두 배를 내는 대신, 에이전트가 대기하고, 큐에서 기다리고, 사용자 답장을 기다리는 몇 시간 동안 캐시가 만료되지 않는다. 온종일 같은 지침과 도구를 재사용하는 상주 에이전트라면 예전에는 30분마다 긴 프롬프트의 비캐시 가격을 다시 내야 했지만, 12시간 등급에서는 같은 컨텍스트의 '신선도 유지' 비용이 쓰기 가격 한 번으로 끝난다. 이 설정은 Responses API의 GPT-5.6 이후 모델에만 적용된다.
함정은 설정 위치: 새 턴까지 2.5배로 쓰게 하지 마라
12시간 등급은 무조건 켜는 기능이 아니다. ttl을 요청 최상위에 설정하면 암묵적 캐시 중단점에도 적용되어, 대화의 매 턴 새로 생기는 토큰까지 2.5배 쓰기 가격으로 청구되고 긴 대화의 요금은 오히려 오른다. 합리적인 방법은 먼저 프롬프트 캐싱이 무엇인지와 어떤 단위로 적중하는지 이해한 뒤, 명시적 중단점을 온종일 재사용되는 안정적인 자료의 끝에 두는 것이다. 시스템 지침, 도구 설명, 고정 참고 문서는 거기서 끝나고, 매일 바뀌는 사용자 입력은 중단점 밖에 둔다. 같은 자료가 30분이 넘는 간격으로 반복 재사용될 때만 2.5배의 쓰기 가격이 본전을 뽑는다. 일회성 질문과 짧은 세션은 기본 등급이 더 낫다.
Codex 사용자는 아무것도 바꿀 필요가 없다
API 요금 변경과 별개로, Codex와 Work의 로그인 사용자에게는 다른 규칙이 적용된다. 캐시가 무기한 보존되어 며칠 전 대화를 다시 열어도 만료 때문에 비용이 늘거나 속도가 느려지지 않는다. 이는 Codex의 28일 연속 일일 릴리스 중 16일째 업데이트다. 일반 사용자에게는 '잠시 자리를 비웠다가 돌아오면 처음부터 다시'라는 숨은 비용이 사라졌고, API 개발자에게 신호는 더 분명하다. 긴 컨텍스트의 재사용이 운에 맡기는 일에서 등급을 골라 사는 확실성으로 바뀌고 있다.
