2026년 10월 1일, Modal은 공식 엔지니어링 블로그를 통해 멀티노드 GPU 클러스터 제품인 Modal Clusters의 정식 제공(GA)을 발표했습니다. 개발자는 Python 함수에 데코레이터 modal.clustered 하나만 붙이면 멀티노드 클러스터를 사용할 수 있습니다. 노드 간은 InfiniBand verbs로 연결되며 최대 6.4 Tbps 대역폭을 제공하고, PyTorch와 NCCL은 자동으로 구성됩니다. 클러스터는 몇 초 만에 준비되고 요금은 초 단위로 부과됩니다.
데코레이터 하나 그 너머에 있는 것
modal.clustered는 단순한 문법 설탕이 아닙니다. Modal Clusters는 Modal의 기존 프리미티브 전체와 통합됩니다. 학습 체크포인트는 Volumes에 쓰고, 데이터는 Cloud Bucket Mounts로 마운트하며, 작업은 Queues로 오케스트레이션합니다. 네트워크 계층에서 가장 까다로운 부분은 rdma=True라는 하나의 플래그로 묶였습니다. 클라우드 업체마다 다른 드라이버, 환경 변수, 사용자 공간 라이브러리 같은 RDMA 설정은 플랫폼이 자동으로 처리해 PyTorch + NCCL이 바로 동작합니다.
요금 면에서 기존 멀티노드 구성은 시간 단위 대여나 용량 예약을 전제로 했고, 유휴 시간에도 요금이 나갔습니다. Modal은 이번에도 서버리스 노선을 고수합니다. 언제 실행해도 되고 실제로 사용한 만큼만 지불합니다.
배경: 1년 반의 엔지니어링은 어디에 쓰였나
Modal에 따르면 지난 1년 반은 이 기능을 실전에서 다듬는 기간이었고, 핵심은 스케줄러와 네트워크 스택을 다시 만드는 일이었습니다.
기존 스케줄러는 탐욕적(greedy)입니다. 각 머신이 작업 큐를 따로 폴링하고, 스케줄러는 맞는 일을 하나씩 찾습니다. 하지만 멀티노드 스케줄링에서는 원자 단위가 '머신 한 대'에서 '한 번에 N대'로 바뀝니다. 이에 Modal은 새로운 gang scheduler를 만들었습니다. 먼저 전체 플릿과 대기 중인 모든 클러스터를 조망한 뒤 전역 배치 계획을 세우고, 한꺼번에 실행하면서 같은 가용 영역의 노드를 하나의 RDMA 패브릭에 묶습니다.
RDMA 자체는 지원하기 까다롭기로 악명 높은 기술입니다. Modal은 멀티테넌트에 더 안전한 컨테이너 런타임인 gVisor를 선택했는데, gVisor에는 RDMA 지원이 없었습니다. 그래서 Modal이 직접 gVisor에 RDMA를 구현했고, 변경 사항을 오픈소스 커뮤니티에 기여했습니다.
이미 사용하고 있는 곳은
블로그에서는 테스트 기간 동안 이 위에서 돌았던 워크로드 세 가지가 소개됐습니다. 고객 경험 에이전트 기업 Decagon은 조 단위 파라미터 규모의 오픈 모델을 파인튜닝했고, 휴머노이드 로봇 기업 1x는 멀티노드 B300 클러스터로 NEO의 월드 모델을 사전 학습하며 대규모 실험 때는 수백 장의 GPU를 한 번에 띄웁니다. Runway는 최신 동영상 생성·편집 모델인 Gen-4.5와 Aleph 2.0의 멀티노드 추론을 이 위에서 돌리고, 오토스케일러가 클러스터 단위로 확장·축소합니다.
어울리는 팀, 관망해도 되는 팀
멀티노드 학습·추론 수요는 있지만 자체 클러스터 운영 팀을 두기 싫은 기업이 가장 직접적인 대상입니다. 대규모 모델 포스트 트레이닝, 조 단위 파라미터 파인튜닝, 노드를 넘나드는 추론 분할 같은 일은 지금까지 인프라 팀을 고용하거나 클라우드 업체의 대기열과 용량 예약을 견디는 양자택일이었습니다.
워크로드가 항상 GPU 한 장에 들어간다면 Modal Clusters는 무관한 이야기입니다. 장기 예약한 자체 데이터센터가 이미 있다면 이전이 유리하지 않을 수도 있습니다. Modal Clusters가 연 것은 '멀티노드를 초 단위로 빌리는'이라는, 지금까지 사실상 존재하지 않던 선택지입니다. 그 가치는 먼저 연산 수요의 파도가 심한 팀의 것입니다.
