ToolNavs 유용한 AI 도구 찾기
도구 제출 로그인
돌아가기 AI 정보
Ultrafast API 확장 신호: OpenAI 문서에 3단계 속도 선택지 등장

Ultrafast API 확장 신호: OpenAI 문서에 3단계 속도 선택지 등장

AI 정보 • Admin • • 6 회 조회

Ultrafast API는 OpenAI가 올해 8월 GPT-5.6 Sol과 함께 선보인 초저지연 추론 티어로, 공식적으로 초당 최대 750토큰, Standard 티어의 14배 속도를 자랑한다. 9월 26일, 개발자들이 OpenAI Platform과 API 문서에서 Ultrafast 관련 내용을 발견했다. X에서 imjustnewatai가 공개한 스크린샷에는 클라우드 에이전트 API 문서에 'Ultrafast'라는 문구가 확인된다. 한편 TestingCatalog은 Responses API Playground에 숨겨진 속도 선택기가 준비 중임을 포착했다. Standard, Fast, Ultrafast 세 단계 중 선택할 수 있지만, 현재는 숨겨진 상태다.

새 모델이 아닌 '속도 티어'

Ultrafast는 새 모델이 아니라 서비스 티어다. API에는 이미 Standard와 Fast 두 단계가 있으며(Fast는 문서화되어 있고 요청 시 service_tier: "fast"로 지정 가능), Ultrafast는 세 번째이자 가장 빠른 티어가 된다. Cerebras 인프라에서 동작하며, OpenAI는 올해 초 Cerebras와 750MW 규모의 용량 협력을 발표했고 2028년까지 단계적으로 구축할 계획이다. 현재 Ultrafast는 일부 고객에게만 열려 있으며, 지원이 확인된 모델은 GPT-5.6 Sol뿐이다.

개발자에게 주는 의미

실무적으로 가장 큰 변화는 지연을 티어별로 '살 수' 있게 된다는 점이다. 상담 챗봇, 실시간 음성, 코드 자동완성, 거래 리스크 관리 등 지연에 민감한 워크로드는 그동안 '속도를 위해 작은 모델을 쓸 것인가, 큰 모델의 지연을 감내할 것인가'라는 이분법에 갇혀 있었다. 세 단계가 갖춰지면 각 워크로드의 가치에 맞는 지연을 선택할 수 있고, 고비용 추론은 수익이나 경험에 직결되는 경로에 집중할 수 있다. 속도의 티어화는 지연을 API 경제의 일급 시민으로 만드는 것이기도 하다. 애플리케이션 설계에는 지연 예산이 필요해진다.

아직 확인되지 않은 세 가지

첫째, 9월 29일은 OpenAI DevDay이며, 그 자리에서 확장이 발표될 가능성을 배제할 수 없지만 공식 확인은 없다. 둘째, GPT-6 계열(Sol, Astra)이 Ultrafast를 지원하는지는 아직 알 수 없다. 셋째, 가격——Ultrafast 프리미엄이 얼마가 될지 OpenAI는 밝히지 않았다.

문서와 Playground 스위치가 동시에 등장한 것은 우연한 유출이 아니라 조율된 예열임을 시사한다. 개발자가 진짜로 준비해야 할 것은 스위치가 켜지기를 기다리는 일이 아니라, 각 워크로드의 지연 예산을 짜기 시작하는 일이다. 어떤 경로가 밀리초를 위해 비용을 지불할 가치가 있는가. 답은 9월 29일 DevDay에서 나온다. 그때까지 이는 공식 확인되지 않은 리크 정보다。

추천 도구

더보기