Le 1er octobre 2026, Modal a annoncé sur son blog d'ingénierie officiel que Modal Clusters, son produit de cluster GPU multi-nœuds, est désormais disponible en version générale (GA). Les développeurs n'ont qu'à ajouter un seul décorateur, modal.clustered, à une fonction Python pour obtenir un cluster multi-nœuds : les nœuds sont interconnectés via InfiniBand verbs avec jusqu'à 6,4 Tbps de bande passante, et PyTorch comme NCCL sont configurés automatiquement. Un cluster est prêt en quelques secondes et facturé à la seconde.
Ce qu'il y a au-delà d'un simple décorateur
modal.clustered n'est pas un simple sucre syntaxique isolé. Modal Clusters s'intègre à toutes les primitives existantes de Modal : les checkpoints d'entraînement vont dans les Volumes, les données sont montées via Cloud Bucket Mounts, et les tâches sont orchestrées avec Queues. La partie la plus délicate de la couche réseau est concentrée dans un seul commutateur, rdma=True — pilotes, variables d'environnement et bibliothèques utilisateur, qui diffèrent selon les fournisseurs cloud, sont gérés automatiquement par la plateforme, de sorte que PyTorch + NCCL fonctionne immédiatement.
Côté tarifs, les configurations multi-nœuds classiques se louent soit à l'heure, soit avec des réservations de capacité — et l'on paie même quand les machines tournent à vide. Modal reste ici fidèle à sa ligne serverless : on exécute quand on veut, et on ne paie que ce que l'on utilise réellement.
Contexte : où sont passés 1,5 an d'ingénierie
Selon Modal, les 18 derniers mois ont servi à éprouver cette capacité en conditions réelles, l'essentiel du travail consistant à reconstruire le planificateur et la pile réseau.
Les planificateurs classiques sont gloutons : chaque machine interroge la file de tâches pour son propre compte, et le planificateur cherche du travail adapté un élément à la fois. Mais l'ordonnancement multi-nœuds change l'unité atomique, qui passe de « une machine » à « N machines d'un coup » — Modal a donc écrit un nouveau gang scheduler : il commence par embrasser l'ensemble du parc et tous les clusters en attente, établit un plan de placement global, puis agit en une fois, en regroupant les nœuds d'une même zone de disponibilité sur un même fabric RDMA.
Le RDMA lui-même est réputé pour sa difficulté de prise en charge. Modal a opté pour gVisor, le runtime de conteneurs multi-locataires plus sûr — qui ne savait pas faire de RDMA. Modal a donc ajouté lui-même la prise en charge RDMA à gVisor et a reversé ces changements à la communauté open source.
Qui l'utilise déjà
Le blog cite trois charges de travail qui ont tourné sur la plateforme pendant la période de test : la société d'agents pour l'expérience client Decagon a affiné des modèles ouverts à l'échelle du billion de paramètres ; l'entreprise de robotique humanoïde 1x pré-entraîne le modèle de monde de NEO sur des clusters B300 multi-nœuds, montant des centaines de GPU d'un coup lors de grandes campagnes d'expériences ; et Runway y fait tourner l'inférence multi-nœuds de ses derniers modèles de génération et de montage vidéo, Gen-4.5 et Aleph 2.0, l'autoscaler dimensionnant ces clusters comme une unité.
Pour qui c'est fait — et qui peut attendre
Les entreprises ayant des besoins d'entraînement ou d'inférence multi-nœuds, mais ne souhaitant pas monter leur propre équipe d'exploitation de cluster, sont la cible la plus directe : le post-entraînement de grands modèles, le fine-tuning à l'échelle du billion de paramètres et le découpage d'inférence entre nœuds signifiaient jusqu'ici soit recruter une équipe infra, soit composer avec les files d'attente et les réservations des fournisseurs cloud.
Si vos charges tiennent toujours sur un seul GPU, Modal Clusters ne vous concerne pas ; si vous disposez déjà de capacités propres réservées sur le long terme, la migration ne sera pas forcément rentable. Modal Clusters ouvre une option qui n'existait quasiment pas — louer du multi-nœuds à la seconde — et sa valeur appartient d'abord aux équipes dont la demande de calcul fluctue fortement.
