11월 3일 여러 매체가 Revolut의 AI 운영 책임자 데이비드 아비트볼이 10월 13일 AI Engineer NYC 콘퍼런스에서 한 발표를 보도했다. 이 핀테크 회사는 약 2,000명의 엔지니어가 기본으로 쓰던 코딩 어시스턴트를 Zhipu의 GLM 오픈 웨이트 모델을 자체 호스팅하는 방식으로 바꿨고, Claude Code와 Codex는 예외적인 경우에만 쓴다고 한다. 아비트볼에 따르면 종합 비용은 100만 토큰당 약 0.30달러로, 이전에 OpenAI와 Anthropic 서비스를 쓸 때의 10분의 1 수준이다.
보도에 따르면 현재 배포는 GLM 5.3이며 56개의 엔비디아 B200 GPU에서 돌아간다. 이 시스템은 2026년 4월부터 가동됐고 엔지니어들은 더 이상 토큰 사용량 제한을 받지 않는다. Revolut은 이전에 1인당 월 300달러의 Claude Code 한도를 줬는데, 아비트볼은 한도 관리 하에서는 효율 개선이 제한적이었다고 말했다. 전환 이후 내부 표본에서는 코딩 시간이 약 60%, 업무 배정부터 인도까지의 리드타임이 약 70% 개선됐다고 한다.
숫자는 좋아 보이지만 인과관계는 가려서 봐야 한다. 첫 토큰 대기 시간이 14.26초에서 1.68초로 줄고, 같은 GPU에서 초당 요청 수가 76% 늘어난 것은 모델만 바꾼 결과가 아니라 추론 파라미터를 조정한 결과다. 리드타임 개선의 더 큰 부분은 엔지니어들이 토큰을 아끼지 않게 되면서 문서 검색이나 티켓 처리 같은 주변 업무까지 어시스턴트에게 맡기게 된 데서 왔을 수 있다. 이는 모두 Revolut 내부 통계로 제3자 검증을 거치지 않았으며, 0.30달러라는 종합 비용에는 하드웨어 구매비와 운영 인건비가 포함돼 있지 않다.
옮길 수 없는 부분
자체 호스팅이 모든 것을 대체하지는 않는다. GLM은 텍스트와 코드만 처리하고, 이미지 작업은 여전히 Gemini 같은 호스팅 서비스를 거치며, 복잡한 작업은 Claude Code와 Codex로 돌아간다. 규제를 받는 은행으로서 Revolut은 가중치를 자체 통제 인프라에 내려받아 운영해 추론 트래픽이 모델 제공자를 거치지 않게 하고, 사람이 개입하는 샌드박스 안에서 에이전트의 조작 권한을 제약한다. 오픈 모델의 안전 성능도 별도로 평가해야 한다. GLM-5.3의 사이버보안 평가에서의 공격 성능은 이미 독립 평가로 기록된 바 있다.
다른 기업에게 결론은 GLM이 프런티어 모델보다 싸다는 것이 아니라, 사용량이 충분히 크고 작업이 충분히 집중될 때 자체 호스팅의 한계 비용이 맞아떨어진다는 것이다. 56개의 GPU를 조율할 팀과 샌드박스 거버넌스가 없다면 토큰 요금에서 아낀 돈은 운영비로 되돌아갈 가능성이 크다.
