ToolNavs KI-Tools entdecken
Tool einreichen Anmelden
Zurück zu KI-Informationen
Köder-Test in der KI-Lieferkette: 2 Millionen Prompts, drei Anbieter gehackt

Köder-Test in der KI-Lieferkette: 2 Millionen Prompts, drei Anbieter gehackt

KI-Informationen • Admin • • 17 Aufrufe

Am 21. November 2026 berichtete Ars Technica über ein Experiment von HD Moore, Forschungschef der Sicherheitsfirma Dragos: Er schickte fast zwei Millionen KI-Prompts, in denen jeweils ein einzigartiges, rückverfolgbares Geheimnis versteckt war, an KI-Anbieter und verfolgte dann, wo diese Geheimnisse auftauchten. Das Ergebnis war ernüchternd — mindestens drei Anbieter waren bereits von Angreifern kompromittiert, und Nutzer-Prompts bleiben in der KI-Lieferkette schlicht nicht privat.

Wie die Fallen gestellt wurden

Zu den „Kanarienvögeln", die Moore auslegte, gehörten funktionierende Zugangsschlüssel, die mit leeren AWS-Konten verknüpft waren, Passwörter für Dienste wie SSH sowie einmalige URLs, DNS-Namen und Verweise auf private Git-Repositories. Jedes Geheimnis landete in genau einem Prompt an genau einen Anbieter, sodass jede Verwendung die Leckstelle verriet. Die Köder reisten durch das weit verzweigte Netz der KI-Dienste, vor allem über „KI-Router" wie OpenRouter und Vercel: Sie leiten Nutzer-Prompts nach Preis oder Aufgabenpassung an Inference-Engines weiter. Prompts sind zwar unterwegs verschlüsselt, werden aber an jedem Sprung des Weiterverkaufsnetzes entschlüsselt, weil ein Router den Klartext lesen muss, um den vorgelagerten Anbieter zu wählen.

Warum Datenschutz-Kennzeichen nicht halfen

Bei einem kompromittierten Anbieter stahlen Angreifer in wenigen kurzen Zeitfenstern Ende Oktober jede einzelne gesendete Anfrage; ein paar hundert AWS-Schlüssel wurden wiederholt verwendet und zehntausendfach über die AWS-API aufgerufen. Die Angreifer durchsuchten S3-Buckets und Secrets Manager, versuchten, gehostete Modelle in Bedrock zu aktivieren, und legten IAM-Nutzer an, um den Zugang zu behalten. Manche gestohlenen Schlüssel stammten aus Anfragen, die der Anbieter schon abgelehnt hatte, bevor je ein Modell lief — ein Beleg dafür, dass der Angreifer Anfragen bereits an der „Haustür" des Anbieters kopierte. Auch bei den beiden anderen Einbrüchen trugen manche gestohlene Anfragen die Kennzeichnung Zero Data Retention (ZDR). Ein namentlich nicht genanntes chinesisches KI-Labor sammelte zwischen Juli und Oktober mehr als die Hälfte der geheimen URLs, die an seine Modelle geschickt wurden; etwa zwei Drittel davon trugen die Kennzeichnung „keine Datenerfassung" oder ZDR. Ein weiterer US-Hosting-Anbieter kroch dieselbe geheime URL noch mehr als zwei Monate nach einem einzigen Aufruf weiter.

Am unmittelbarsten trifft es Entwickler und Unternehmen, die API-Schlüssel, interne Dokumente und Kundendaten in Prompts stecken: Sobald ein Prompt den eigenen Rechner verlässt, kann er Router, Wiederverkäufer und Hosting-Anbieter durchlaufen — und an jedem Sprung im Klartext gelesen werden. Datenschutz-Kennzeichen wie ZDR halten keinen Angreifer auf, der bereits im Anbieter sitzt, und billige Wiederverkäufer können mit Niedrigpreisen Traffic anlocken, die Anfrageprotokollierung einschalten und auf die Ernte warten. Der Bericht nennt weder die drei kompromittierten Anbieter noch das chinesische Labor beim Namen, und er enthält keine Stellungnahmen der Firmen im Wortlaut. Am selben Tag warnte OpenRouter seine Kunden per E-Mail: Einige an MiniMax gesendete Prompts seien möglicherweise gelesen worden; OpenRouter entfernte daraufhin die Kennzeichnung „Zero Data Retention" von den MiniMax-Modellendpunkten.

Moores Rat ist unmissverständlich: Am sichersten ist es, Modelle selbst vor Ort zu betreiben, auch wenn das teuer ist. Die zweitbeste Option ist, direkt mit einem erstklassigen Anbieter zu vertragen und den vorgelagerten Anbieter selbst zu wählen, statt einen voreingestellten Anbieter oder Wiederverkäufer-Pool zu akzeptieren. In beiden Fällen gilt: keine echten Schlüssel und keine internen Links mehr in Prompts.

Empfohlene Tools

Mehr