Le 23 octobre 2026, AWS a présenté dans son blog open source Infinity, un environnement d'exécution d'agents développé avec UC Berkeley : au lieu de traiter un agent comme un processus résident qui occupe en permanence une machine, il traite un appel d'outil comme un point de suspension. Quand un agent appelle un outil, il se met en pause, sauvegarde son historique de conversation, puis reprend son exécution une fois le résultat arrivé, une approche proche des coroutines sans pile en programmation. Ce changement vise le côté le plus coûteux des agents : une grande partie de leur temps passe à attendre des outils, des validations ou des événements externes, et non à raisonner.
Ce que la suspension économise vraiment
Dans l'approche classique, un agent qui attend un résultat continue d'occuper un processus et de la mémoire, de sorte qu'une foule de tâches inactives remplit d'abord la machine. Infinity range l'état d'attente, ne conserve qu'un enregistrement léger, puis reconnecte l'historique et les tâches en attente à la reprise. Pour les développeurs, la manière d'appeler change à peine ; ce qui change, c'est la façon dont l'environnement traite l'attente : attendre ne signifie plus occuper des ressources.
Le chiffre officiel est frappant : sur un Raspberry Pi 5 doté de 8 Go de mémoire, Infinity peut porter 75 000 agents simultanés, chaque agent inactif n'occupant qu'environ 100 Ko. Deux coûts doivent toutefois rester séparés : ce chiffre décrit combien d'agents peuvent être suspendus en même temps, et non à quelle vitesse ils tournent tous, et le coût ainsi que la latence des appels de modèle demeurent.
Il fonctionne aussi en serverless
Infinity peut tourner dans un processus local ou sur une plateforme serverless comme Lambda, avec SQS et Aurora DSQL : pendant qu'un agent attend, il ne consomme aucune puissance de calcul, et il se réveille quand le résultat arrive. Cela convient aux tâches longues et pilotées par les événements, comme attendre la fin d'une compilation, une validation humaine ou la réponse d'un système externe, sans louer des machines à long terme juste pour attendre.
La collaboration entre plusieurs agents est aussi intégrée à l'environnement. Infinity fournit des outils intégrés comme spawn_thread et report_to_parent, qui permettent à un agent parent de créer des fils enfants et d'en recevoir les résultats ; les événements sont traités par défaut dans les fils enfants, de sorte que tous les résultats intermédiaires ne s'entassent pas dans le contexte de l'agent parent. Quand une API de modèle ne prend pas elle-même en charge les événements asynchrones, Infinity les transmet par des appels d'outils synthétiques.
Qui en profite d'abord, et à quoi faire attention
Les premiers bénéficiaires sont les équipes qui comptent beaucoup d'agents et de longues attentes : service client, supervision, traitement par lots et suivis de longue durée n'ont plus besoin de réserver toute une capacité résidente pour la concurrence maximale. Pour les développeurs individuels, la démonstration à l'échelle d'un Raspberry Pi abaisse aussi le coût d'un essai.
Trois réserves subsistent : la suspension économise la puissance de calcul pendant l'attente, pas les frais d'appel de modèle ; avec davantage de flux asynchrones, retrouver un fil enfant bloqué ou un événement en retard ressemblera davantage au suivi d'une tâche distribuée ; et la qualité de jugement, les autorisations d'outils et les limites de sécurité d'un agent dépendent toujours de la conception et du contrôle au-dessus de l'environnement. Il est plus juste de voir Infinity comme une infrastructure qui rend l'attente des agents abordable, plutôt que comme des agents devenus plus intelligents.
