OpenAI의 Decisions API가 10월 22일 정식 출시(GA)됐다. GPT-6 Luna를 기반으로 하며, '정해진 답'이 있는 작은 판단에 특화됐다. 공식 발표에 따르면 앱과 에이전트는 워크플로 전반에서 수많은 미세 판단을 내린다. 입력에 라벨을 붙이고, 요청을 어디로 라우팅할지, 다음 액션을 무엇으로 할지——하나하나는 단순하지만 규모가 커지면 지연과 비용이 쌓인다.
Decisions API는 이런 판단을 전용 고속 레인으로 분리한다. 개발자는 질문과 허용된 답을 정의하고 텍스트·이미지·네이티브 JSON 컨텍스트를 전달하면, API는 세 가지 답변 유형 중 하나를 반환한다. predicate는 조건이 성립할 확률(0~1, 예: 상품 사진에 눈에 띄는 파손이 있는지), choice는 미리 정의한 선택지 중 하나를 고르고(예: 계속·재시도·확인 요청) 확률과 신뢰도를 함께 제공, score는 순서형 척도로 평가해 레벨 번호의 확률 가중 평균을 반환한다(예: 파손 심각도). 핵심 수치는 Responses API로 GPT-6 Luna를 호출하는 것보다 최대 10배 빠르다는 점이다.
GA에서는 공개 베타 대비 기능이 대폭 보강됐다. GPT-Live 네이티브 통합으로 실시간 음성 세션 안에서 빠른 판단을 내릴 수 있다. 상담 에이전트가 추가 질문을 할지 에스컬레이션할지 결정하고, 아바타가 사용자 발화에 맞춰 표정을 바꾼다. 재사용 컨텍스트용 프롬프트 캐싱, 미국·EU 추론 리전, 요청당 최대 400개 질문(기존의 2배), 아시아 여러 지역의 용량 확대도 포함된다.
요금도 '고빈도 소규모 판단'을 겨냥한다. 입력 토큰 100만 개당 0.10달러, 캐시된 입력은 100만 개당 0.01달러. 입력에만 과금하고 출력 토큰에는 과금하지 않는다. 30분·12시간 캐시 쓰기 옵션도 있다. 조건을 만족하는 고객은 Zero Data Retention도 이용할 수 있다.
세 가지 직접적 영향
에이전트가 본격 가동되면 병목은 '가장 똑똑한 한 수'가 아니라 수천 번의 중간 판단인 경우가 많다. 기존 개발자는 작은 판단마다 대형 모델을 호출해 지연과 요금을 감수하거나, 직접 소형 분류기를 학습해 유지보수 비용을 떠안아야 했다. Decisions API는 '판단'을 인프라로 만들었다. 답의 공간이 고정되고 모델이 문장을 구성할 필요가 없어 지연과 비용이 자연스럽게 내려간다.
개발자에게 미치는 직접적 영향은 세 층이다. 첫째, 기존 Responses API 워크플로의 분류·라우팅·중재 로직을 더 저렴한 고속 레인으로 옮길 수 있다. 둘째, 지연에 민감한 실시간 음성(상담·아바타)이 처음으로 공식 '말하면서 판단' 수단을 얻었다. 셋째, 입력 전용 과금으로 고빈도 호출의 요금이 예측 가능해진다. 이는 에이전트를 스케일할 때 가장 두려운 불확실성이다.
경계도 짚어야 한다. 정해진 답이 있는 질문만 처리하고, 개방형 생성·긴 추론은 기존 모델 인터페이스를 쓴다. 에이전트의 '뇌'가 아니라 '반사신경'으로 쓰는 것이 올바른 용법이다.
