Am 20. November 2026 hat Amazon Threat Intelligence im AWS Security Blog einen Angriff durch KI-Agenten offengelegt: Eine Hackergruppe mit mutmaßlichen Verbindungen nach China nutzte Cairn, ein Open-Source-Framework für KI-Agenten, um eine Zero-Day-Schwachstelle selbstständig zu finden und auszunutzen und die volle Kontrolle über einen Universitätsserver zu übernehmen. Vom Erkunden der Schnittstelle bis zum beliebigen Schreiben von Dateien brauchten die Agenten etwa 11 Minuten. Es ist der erste öffentliche Beleg dafür, dass KI-Agenten in einem echten Angriff die gesamte Kette von der Entdeckung einer Schwachstelle bis zum erfolgreichen Einbruch eigenständig durchlaufen haben.
Was in diesen 11 Minuten geschah
Ziel war MONAI Label, ein Open-Source-Werkzeug zur Annotation medizinischer Bilder, mit dem Forschungsteams medizinische Scans beschriften und Bildmodelle trainieren. Die Agenten erkundeten zunächst die Schnittstellen des Systems, stellten dann fest, dass der Dateiname-Parameter eines Upload-Endpunkts nicht geprüft wurde, und nutzten Path Traversal, um eine Datei dorthin zu schreiben, wo sie nicht hingehörte — in 11 Minuten von der Erkundung bis zum beliebigen Dateizugriff. In einer späteren Sitzung schrieben die Agenten Reverse-Shell-Code in die Datei sitecustomize.py, die Python beim Start automatisch lädt, lösten dann einen Trainings-Endpunkt aus, um einen neuen Prozess zu starten, und erhielten eine Reverse Shell mit Root-Rechten.
Amazon entdeckte den Angriff am 10. September: Der Cairn-Server des Angreifers war ohne Passwort direkt im Internet erreichbar, sodass Einsatzprotokolle, Prompts und Ablaufspuren vollständig einsehbar waren. Die Prompts waren in vereinfachtem Chinesisch verfasst, die Zeitstempel der Skripte auf chinesische Standardzeit eingestellt. Die Ziele waren Universitäten in Ostasien außerhalb des chinesischen Festlands, die Kampagne lief ab dem 8. September etwa 48 Stunden. Amazon stuft die Schwachstelle mit hoher Zuversicht als Zero-Day ein — zum Zeitpunkt der Entdeckung gab es weder einen Fix noch einen Bericht, eine Sicherheitsmeldung oder einen Eintrag in einer Schwachstellendatenbank dazu; die Zuordnung zum Angreifer wurde dagegen nur mit mittlerer Zuversicht bewertet.
Doch die Agenten waren keineswegs unaufhaltsam: In derselben Kampagne hielten sie sich etwa 16 Stunden und 148 Schritte lang an einem ungeschützten Redis-Server auf, ohne Erfolg; bei einem GPU-Server einer Universität war es dasselbe — die Agenten sammelten rund 80 echte Benutzernamen aus öffentlichen Quellen und probierten über 30.000 Passwortkombinationen, ohne etwas zu erreichen. Was tatsächlich fiel, war MONAI Label, das standardmäßig ohne Anmeldung lief und eine Path-Traversal-Schwachstelle hatte. Die Agenten verstärkten Konfigurationsfehler und Code-Mängel, die bereits vorhanden waren; sie haben keine Einbruchsfähigkeit aus dem Nichts erschaffen. Der Angreifer gab den Agenten später einen Proxy-Tunnel, mit dem sie die Kampagne in das interne Netz einer zweiten Universität ausweiteten — dort lief dieselbe verwundbare Software.
Die Betreuer von MONAI Label haben eine Sicherheitsmeldung veröffentlicht, der Fix wurde am 19. Oktober in den Hauptzweig übernommen, doch bis zum 21. November ist keine neue Version mit dem Fix erschienen; die neueste Version auf PyPI ist weiterhin 0.8.5, betroffen sind 0.8.5 und ältere Versionen. Organisationen, die MONAI Label weiterhin einsetzen, sollten jetzt drei Dinge tun: den Dienst nicht direkt ins Internet stellen, Upload-Endpunkte mit einer Anmeldeprüfung versehen und die korrigierte Version im Blick behalten. Am selben Tag hat auch OpenAI seine eigenen Abwehrmaßnahmen gegen adversariale Destillation veröffentlicht — mit einem ähnlichen Gedanken: nicht erst nach einem erfolgreichen Angriff Bilanz ziehen, sondern die Extraktion abfangen, während sie geschieht. Beide Seiten des Wettlaufs zwischen Angriff und Verteidigung werden schneller, und die Zeit für manuelle Reaktion schrumpft.