11월 12일 OpenAI는 인도에서 API 추론 레지던시를 시작한다고 발표했다. 대상 기업과 개발자가 GPT-6 Luna를 호출할 때 요청 접수와 모델 계산, 결과 반환이 모두 인도 안에서 이루어지고, 고객 콘텐츠도 인도에 저장된다. 인도는 호주와 일본에 이어 OpenAI 추론 레지던시를 확보한 세 번째 시장이 됐다.
이번에 메워진 것은 데이터 레지던시가 줄곧 비워두었던 부분이다. 지금까지 인도에서 OpenAI의 데이터 레지던시는 '어디에 저장하는가'만 다뤘다. 고객 콘텐츠를 인도 서버에 둘 수는 있었다. 추론 레지던시가 다루는 것은 '어디에서 계산하는가'다. 모델이 프롬프트를 받아 답변을 만드는 계산 전 과정도 국경을 넘지 않는다. 둘을 합치면 한 번의 API 호출이 처음부터 끝까지 인도 인프라를 벗어나지 않는다. 출시 시점에는 GPT-6 Luna만 지원되며, Responses API와 Chat Completions API로 호출한다. 일반 ChatGPT 사용자는 영향을 받지 않고, 호스티드 도구는 아직 지원되지 않는다.
이용에는 세 가지 엄격한 조건이 있다.
- 조직은 제로 데이터 보존(ZDR)을 켜야 한다. OpenAI가 API 요청과 응답 데이터를 보관하지 않는 방식이며, OpenAI의 승인이 필요하다.
- 표준 종량제만 지원되며, 연간 요금제나 대량 할인은 대상이 아니다.
- 새 API 프로젝트를 만들고 저장과 처리 지역을 모두 인도로 선택한 뒤, 인도 리전 엔드포인트로 요청을 보내야 한다. OpenAI 문서에 따르면 GPT-6 Luna의 리전 처리에는 10%의 추가 요금이 붙는다.
가장 먼저 혜택을 보는 것은 금융 같은 규제 산업이다. OpenAI 인도 엔터프라이즈 책임자 니틴 바완쿨레는 일부 인도 기업이 정보를 국내에서 처리해야 한다는 이유로 중요한 업무에 AI를 본격적으로 도입하지 못했다고 말했다. 그런 고객에게 추론 레지던시는 컴플라이언스의 매듭을 푸는 열쇠다. 데이터가 국경을 넘지 않으면 감사가 수월해진다. Anthropic의 Claude는 한 달여 전에 인도에서 국내 추론을 시작했다. OpenAI가 이번에 뒤따르면서 인도는 모델 업체들이 컴플라이언스 수요가 있는 시장을 두고 경쟁하는 주무대가 되고 있다.
앞으로 볼 것은 두 가지다. OpenAI가 추론 레지던시를 더 많은 모델로 넓힐지, 그리고 데이터 현지화 요구가 있는 다른 시장으로 넓힐지다. 지난 2월 OpenAI와 타타 그룹은 인도 내 AI 데이터센터 용량을 함께 구축하겠다고 발표했고, 추론 레지던시는 그 계획의 다음 수순이다. 지금으로서는 여전히 좁은 입구다. 하나의 모델, 직접 API 이용, 조건을 충족하는 고객에 한정된다. 일반 사용자나 ChatGPT 경험이 이로 인해 바뀌지는 않는다.
