Am 23. Oktober 2026 stellte AWS in seinem Open-Source-Blog Infinity vor, eine Agenten-Laufzeitumgebung, die gemeinsam mit der UC Berkeley entwickelt wurde: Statt einen Agenten als ständig laufenden Prozess zu behandeln, der eine Maschine belegt, wird ein Tool-Aufruf als Unterbrechungspunkt behandelt. Ruft ein Agent ein Tool auf, pausiert er, speichert seinen Gesprächsverlauf und setzt die Ausführung fort, sobald das Ergebnis eintrifft – ähnlich wie stacklose Coroutinen in der Programmierung. Die Änderung zielt auf die teuerste Seite von Agenten: Ein Großteil ihrer Zeit vergeht mit Warten auf Tools, Freigaben oder externe Ereignisse, nicht mit Schlussfolgern.
Was das Pausieren tatsächlich spart
Im herkömmlichen Ansatz hält ein Agent, der auf ein Ergebnis wartet, weiterhin Prozess und Speicher belegt, sodass eine Menge wartender Aufgaben die Maschine zuerst füllt. Infinity legt den Wartezustand beiseite, behält nur einen leichten Datensatz und verbindet Verlauf und offene Aufgaben bei der Fortsetzung wieder. Für Entwicklerinnen und Entwickler ändert sich die Aufrufweise kaum; was sich ändert, ist der Umgang der Laufzeit mit dem Warten: Warten bedeutet nicht mehr, Ressourcen zu belegen.
Die offizielle Zahl ist eindrucksvoll: Auf einem Raspberry Pi 5 mit 8 GB Arbeitsspeicher kann Infinity 75.000 gleichzeitige Agenten tragen, wobei ein untätiger Agent nur etwa 100 KB benötigt. Zwei Kosten müssen jedoch getrennt bleiben: Die Zahl beschreibt, wie viele Agenten gleichzeitig pausiert werden können, nicht wie schnell sie alle laufen, und Kosten sowie Latenz der Modellaufrufe bleiben bestehen.
Auch serverlos lauffähig
Infinity läuft sowohl in einem lokalen Prozess als auch auf einer serverlosen Plattform wie Lambda, zusammen mit SQS und Aurora DSQL: Während ein Agent wartet, benötigt er keine Rechenleistung, und er wacht auf, sobald das Ergebnis eintrifft. Das eignet sich für lang laufende, ereignisgesteuerte Aufgaben, etwa das Warten auf einen abgeschlossenen Build, eine menschliche Freigabe oder die Antwort eines externen Systems, ohne Maschinen langfristig nur zum Warten zu mieten.
Auch die Zusammenarbeit mehrerer Agenten ist in die Laufzeit eingebaut. Infinity bietet eingebaute Tools wie spawn_thread und report_to_parent, mit denen ein übergeordneter Agent Kind-Threads erzeugen und deren Ergebnisse zurückerhalten kann; Ereignisse werden standardmäßig in Kind-Threads verarbeitet, sodass nicht alle Zwischenergebnisse in den Kontext des übergeordneten Agenten gelangen. Wenn eine Modell-API selbst keine asynchronen Ereignisse unterstützt, liefert Infinity sie über synthetische Tool-Aufrufe.
Wer zuerst profitiert – und worauf zu achten ist
Zuerst profitieren Teams mit vielen Agenten und langen Wartezeiten: Kundenservice, Monitoring, Stapelverarbeitung und langwierige Nachverfolgung benötigen keine komplette residente Kapazität mehr, die für die Spitzenlast reserviert ist. Für einzelne Entwickler senkt die Demo im Raspberry-Pi-Maßstab zudem die Einstiegshürde.
Drei Vorbehalte bleiben: Das Pausieren spart Rechenleistung in Wartezeiten, keine Modellgebühren; mit mehr asynchronen Abläufen gleicht die Fehlersuche bei einem hängenden Kind-Thread oder einem verspäteten Ereignis eher der Nachverfolgung einer verteilten Aufgabe; und Urteilsqualität, Tool-Berechtigungen und Sicherheitsgrenzen eines Agenten hängen weiterhin von Design und Prüfung oberhalb der Laufzeit ab. Infinity ist genauer als Infrastruktur zu verstehen, mit der sich Agenten das Warten leisten können, und nicht als Agenten, die klüger geworden sind.
