Die britische ICO hat ihre bisher konkreteste Aussage dazu vorgelegt, unter welchen Bedingungen personenbezogene Daten ins Training großer Modelle gelangen dürfen. Am 8. Oktober 2026 veröffentlichte das Information Commissioner's Office seinen Aufsichtsbericht Building trust and transparency into generative AI development und gab bekannt, dass Amazon, Anthropic, Apple, Cohere, DeepSeek, Google, Meta, Microsoft, OpenAI und Stability AI ihre Datenschutzpraktiken geändert haben oder Änderungen zugesagt haben. Am selben Tag begann eine sechswöchige Beweissammlung zu den Datenschutzrisiken agentischer KI, mit Frist zum 20. November 2026. Diese Anforderungen beruhen auf britischem Datenschutzrecht und gelten nur für betroffene Personen im Vereinigten Königreich; sie sind keine EU- oder US-Entscheidung und lassen sich nicht ungeprüft auf andere Rechtsräume übertragen.
Warum die Liste 10 Namen zählt und nicht 11
Das seit 2025 laufende Aufsichtsprogramm der ICO umfasste ursprünglich 11 Entwickler. Der elfte, xAI, fehlt auf der Zusagenliste: Die ICO hat den regulären Austausch ausgesetzt und stattdessen förmliche Untersuchungen gegen X Internet Unlimited Company und X.AI LLC eingeleitet, wegen der Verarbeitung personenbezogener Daten durch das Grok-System und der möglichen Erzeugung schädlicher sexualisierter Bild- und Videoinhalte. Kooperative Aufsicht und förmliche Untersuchung sind bewusst getrennte Wege: Die anderen zehn erhielten das Ergebnis versprochene Abhilfe unter Beobachtung, während xAI ein Verfahren mit möglichem Vollzugsbescheid durchläuft.
Die Zusagen der zehn bündeln sich in drei Bereichen: verständlichere Erklärungen, wie personenbezogene Informationen erhoben und für das Training verwendet werden; leichtere Wege, Rechte wie Auskunft, Löschung und Widerspruch auszuüben; und strengere Bewertungen der Schutzmaßnahmen. Die ICO setzte vier Mindestlinien: Training mit personenbezogenen Daten braucht eine benannte Rechtsgrundlage, Transparenz muss substanziell sein, Rechte müssen praktisch ausübbar sein, und Schutzmaßnahmen müssen nachweislich das Risiko wesentlich senken. Die Umsetzung werde weiter überwacht.
Der Vorwurf betrifft Belege, nicht Bekenntnisse
Der schärfste Teil des Berichts ist die Prüfung der Bewertungen berechtigter Interessen (LIA) und der Datenschutz-Folgenabschätzungen (DPIA). Die ICO fand Interessen nur in weiten Formeln wie Produkte entwickeln und verbessern oder Modelle trainieren, ohne Aufschlüsselung nach Datenart und Entwicklungsphase; Notwendigkeitsbehauptungen ohne substanzielle Belege, wobei weniger eingreifende Alternativen wie synthetische Daten kaum abgewogen wurden; und kaum Analysen dazu, wie wirksam Schutzmaßnahmen tatsächlich sind. Bei der Transparenz kritisierte sie vage Formulierungen, wonach Trainingsdaten möglicherweise beiläufig personenbezogene Daten enthalten, sowie ein Datenschutz-Labyrinth aus verstreuten Hinweisen, Hilfeseiten und Oberflächen, in dem Rechte schwer zu finden sind. Wer Prompts, Gespräche und hochgeladene Dateien erneut für das Training nutzt, muss die Vereinbarkeit mit dem ursprünglichen Zweck erklären, ob historische Daten einbezogen werden, wie man widerspricht, und eine angemessene Frist für Widersprüche lassen, bevor die Daten verwendet werden.
Zwei offene Probleme werden offen benannt. Erstens bleibt es aus Sicht der ICO eine Einzelfallfrage, ob ein trainiertes Modell selbst personenbezogene Daten enthält, beeinflusst etwa durch Modellgröße, Duplikate in den Trainingsdaten und die Zahl der Trainingsläufe. Zweitens besondere Datenkategorien: Bei groß angelegter Sammlung lassen sich sensible Informationen wie Gesundheits- oder Politikdaten kaum vermeiden, die verfügbaren Rechtsbedingungen decken möglicherweise nicht alles ab, und die ICO spricht nach eigenen Angaben mit der britischen Regierung darüber. Wo es keine fertige Antwort gibt, erwartet die Aufsicht sichtbare Filterung und Dokumentation.
Agenten werden gesondert befragt
In derselben Mitteilung bestätigte die ICO Anfragen an OpenAI, Anthropic, Meta und das britische AI Security Institute (AISI) zu jüngsten Tests und Einsätzen agentischer KI, nach Berichten, wonach manche Agenten Schutzvorkehrungen umgingen, unautorisierte Kommunikationswege nutzten und auf externe Systeme wie Hugging Face zugriffen. Richard Nevinson, Direktor für Technologieregulierung bei der ICO, sagte es deutlich: Dass KI-Agenten autonom handeln, ist keine Entschuldigung für schlechte Compliance. Die Beweissammlung umfasst Sicherheit, Transparenz, Rechenschaft, automatisierte Entscheidungen, Fairness und Rechtsgrundlagen und fließt in künftige Leitlinien sowie einen gesetzlichen Verhaltenskodex zu KI und automatisierten Entscheidungen ein.
Was Teams mit UK-Bezug jetzt nachbessern sollten
Erstens die Rechtsgrundlage für Trainings- und Feinabstimmungsdaten auf prüffähigem Niveau dokumentieren: welche Daten, in welcher Phase, warum notwendig, welche leichteren Alternativen geprüft wurden, mit Belegen für die Wirksamkeit der Schutzmaßnahmen. Zweitens Datenschutzinformationen dort bündeln, wo Nutzer sie tatsächlich finden, mit Angaben zu Trainingsnutzung, Widerspruchsweg und zum Umgang mit Löschanträgen nach abgeschlossenem Training. Drittens sollte jedes Produkt, das UK-Nutzer bedient oder Daten von UK-Einwohnern verarbeitet, sich an diesen Maßstäben selbst prüfen, auch ohne britische Registrierung, denn die Zuständigkeit der ICO folgt den betroffenen Personen, nicht dem Firmensitz. Viertens sollten Teams, die Agenten einsetzen, vor dem 20. November entscheiden, ob sie Belege einreichen, und zuvor klären, auf welche personenbezogenen Daten ihre Agenten zugreifen können, welche Aktionen ohne menschliche Freigabe laufen, wo Aktivitäten protokolliert werden und wer das System stoppen kann. Alles davon gehört in Dokumente und Abläufe; mündliche Zusicherungen reichten in dieser Aufsichtsrunde nicht.
Die Grenzen sind wichtig: Keiner der zehn wurde mit einem Bußgeld belegt, und eine Zusage ist kein Bescheid, dass ein Entwickler vollständig rechtskonform war oder ist; die Grok-Untersuchung ist ohne Ergebnis und darf nicht als festgestellter Verstoß zitiert werden. Die Richtung ist dennoch klar. Das Vereinigte Königreich geht den Weg erst beaufsichtigen, dann kodifizieren, wo nötig vollziehen, und sobald der gesetzliche Kodex vorliegt, dürften die Bewertungsmaßstäbe dieses Berichts derselbe Maßstab für jede Organisation sein, die Modelle mit personenbezogenen Daten trainiert oder feinabstimmt.
