Gesichtsdaten gehören nicht standardmäßig in die Cloud: Shanghaier KI-Fotofall löscht über 10.000 Bilder

Gesichtsdaten wurden zu Zehntausenden in einem einzigen Fotogerät im Park gespeichert, und erst eine Staatsanwaltschaft brachte die Löschung durch. Am 10. Oktober 2026 berichtete The Paper unter Berufung auf die Volksstaatsanwaltschaft des Shanghaier Bezirks Huangpu, ein Verfahren im öffentlichen Interesse gegen ein interaktives KI-Fotogerät, das Gesichtsdaten rechtswidrig verarbeitet hatte, sei kürzlich abgeschlossen worden, mit parallelem Verwaltungs- und Zivilstrang. Das Gerät stand in einem Park: Besucher fotografierten zwei Personen, und tiefe Synthese fügte daraus ein Familienporträt mit einem „zukünftigen Baby“ zusammen, anzusehen und herunterzuladen über ein WeChat-Miniprogramm. Zu keinem Zeitpunkt wurde rechtmäßig informiert, und für Gesichtsdaten, die als sensible personenbezogene Daten gelten, lag keine gesonderte Einwilligung vor.

Über 10.000 Fotos, gespeichert an einem Ort, von dem die Betroffenen nichts wussten

Nachdem die Staatsanwaltschaft Huangpu im April 2026 auf den Fall gestoßen war, richtete sie zunächst eine Empfehlung an die zuständige Verwaltungsbehörde; das Unternehmen ergänzte daraufhin Hinweisfenster und eine KI-Kennzeichnung, die Oberfläche war also angepasst. Das Speicherproblem saß tiefer: Im Mai 2026 zeigte ein forensischer Bericht des technischen Zentrums der Shanghaier Staatsanwaltschaft, dass aus dem Anwendungsordner des Geräts über 10.000 aufgenommene Fotos extrahiert wurden und die synthetisierten Bilder zusätzlich in der Cloud gespeichert wurden. Das Gerät bot selbst keinen Download an; eine lange Aufbewahrung war nicht nötig, und unter den Bildern fanden sich Fehlaufnahmen, Testfotos und sogar scharfe Gesichter anderer Besucher im Hintergrund, die nie erfuhren, dass sie gespeichert wurden, und ihr Löschrecht gar nicht ausüben konnten. Eine Speicherfrist war nicht festgelegt. Auch die Einwilligung im Miniprogramm war fehlerhaft: Nutzungsbedingungen und Datenschutzerklärung waren in einem Dokument gebündelt, ohne klar zu sagen, wer die Daten verarbeitet und wie lange sie bleiben, und mit Klauseln zu dauerhafter Speicherung, Weiterverwendung und unbedingtem Auslandstransfer, ganz ohne separates Fenster für die Gesichtsverarbeitung.

Der Geltungsbereich ist China, die Schlussfolgerungen lassen sich nicht übertragen

Der Fall steht im Rahmen des chinesischen Schutzes personenbezogener Daten: Gesichter sind sensible personenbezogene Daten, ihre Verarbeitung verlangt gesonderte Information, gesonderte Einwilligung und Datenminimierung. Betroffen sind Betreiber, die solche Dienste in Festlandchina anbieten: Unternehmen mit KI-Fotoautomaten, interaktiven Geräten und Miniprogrammen für tiefe Synthese, ebenso Parks, Sehenswürdigkeiten und Einkaufszentren, die solche Geräte aufstellen. Das betroffene Unternehmen betreibt zahlreiche ähnliche Angebote in Shanghai und landesweit, sodass die Korrektur nicht ein einzelnes Gerät, sondern die ganze Gerätegruppe betrifft. Die EU und die USA regeln Gesichtsdaten anders; die Schlussfolgerungen dieses Falls lassen sich nicht direkt auf Auslandsgeschäfte übertragen, und umgekehrt ebenso wenig.

Vier Dinge, die Betreiber jetzt ändern müssen

1. Gesonderte Einwilligung, gesondert gezeigt. Die Verarbeitung von Gesichtern braucht einen eigenen Hinweis und eine eigene Auswahl, nicht versteckt in einer pauschalen Zustimmung zu den Bedingungen.
2. Nach der Erzeugung löschen. Besteht nach der Leistung kein Grund, die Originale zu behalten, dürfen sie nicht gespeichert werden; ist Speicherung nötig, gehört eine Frist dazu, die eingehalten wird, und Fehlaufnahmen sowie Gesichter von Passanten brauchen einen eigenen Löschmechanismus.
3. Überschießende Klauseln aus den Bedingungen streichen. Dauerhafte Speicherung, Weiterverwendung und unbedingter Auslandstransfer widersprechen Minimierung und Zweckbindung unmittelbar, und wer sie hineinschreibt, schafft Beweise gegen sich selbst.
4. Kennzeichnung und Rechte müssen funktionieren. Inhalte aus tiefer Synthese brauchen eine KI-Kennzeichnung, und Löschung wie Kontoschließung müssen tatsächlich nutzbar sein. Das Verhandlungsergebnis dieses Falls bestand genau aus diesen drei Punkten: Löschung der rechtswidrig gespeicherten Gesichtsdaten lokal und in der Cloud, Überarbeitung der Datenschutzerklärung und Einführung einer Kontoschließung.

Kennzeichnungspflichten sind keine chinesische Besonderheit; auch die EU stellt harte Anforderungen an die Markierung generierter Inhalte, wie unsere frühere Analyse dazu zeigt, wie ChatGPT-Textwasserzeichen in der EU Pflicht sind, per API aber standardmäßig aus bleiben.

Das eigentliche Risiko: Es kommt auch ohne Klage eines Nutzers

Dieser Fall wartete nicht auf die Klage eines Besuchers. Die Staatsanwaltschaft fand die Hinweise in eigener Zuständigkeit, erhob am 30. April 2026 die Zivilklage im öffentlichen Interesse, erfüllte am 2. Juni das Bekanntmachungsverfahren und schloss den Fall schließlich durch Verhandlung. Das Risiko der Gesichtsverarbeitung hängt also nicht davon ab, ob sich Nutzer beschweren: Der Datenbestand selbst ist der Beweis, und der forensische Bericht hat ihn exakt gezählt. Für Betreiber kostet es weit weniger, Hinweis, Einwilligung, Löschung und Fristen vor dem Start in den Produktablauf einzubauen, als später in einem Verfahren im öffentlichen Interesse Punkt für Punkt nachzubessern.