Am 2. November 2026 veröffentlichte WIRED eine Untersuchung, wonach ein Netzwerk aus mehr als 400 miteinander verbundenen Apps und Domains Deepfake-Werkzeuge hinter gewöhnlichen KI-Apps für Tierfotos, Sprachunterricht, Fitnesstraining und Ähnliches versteckte. Apple entfernte 19 Apps, nachdem WIRED seine Erkenntnisse an das Unternehmen weitergegeben hatte; Google hatte den Großteil der Apps bereits zuvor entfernt. Entscheidend ist hier nicht eine einzelne App, sondern dass ein Prüfmechanismus mit dem Trick „erst freigeben, dann Inhalte austauschen“ umgangen wurde: Was der App-Store sah, muss nicht dasselbe sein wie das, was Nutzerinnen und Nutzer am Ende öffneten.
Die Versteckmethode: erst freigeben, dann Inhalte austauschen
Die Untersuchung beschreibt das Vorgehen in drei Schritten: Die App wird mit einer harmlosen Funktion zur Prüfung eingereicht und scheint den Store-Regeln zu entsprechen; nach der Installation sendet sie Informationen wie Sprache, Herkunftskanal und Gerätekennung an einen externen Server, der entscheidet, welche Version gezeigt wird; und unter bestimmten Bedingungen lädt die App eine Weboberfläche, die Werkzeuge zum Erstellen von Deepfake-Bildern und -Videos aus Fotos bietet, die Nutzer hochladen. Die Forscher fanden zudem eine JavaScript-Datei, die Hunderte von Apps und Domains des Netzwerks sowie Verschlüsselungsschlüssel und Werbe-Tracker auflistete. WIRED und die Forschungseinrichtungen führten die Domain-Spuren auf ein in Hongkong registriertes Unternehmen namens KeLing Technology Limited zurück; WIRED zufolge reagierte das Unternehmen nicht auf Anfragen um Stellungnahme. Diese Zuordnung stammt aus der Berichterstattung und den Nachforschungen der Forscher und wurde von dem Unternehmen nicht bestätigt.
Auch die Größenordnung stammt aus dieser Untersuchung: Im September 2026 fanden Forscher 27 betroffene Apps bei Google Play mit insgesamt mehr als 350.000 Downloads; eine davon, DiffAI, wurde mehr als 100.000 Mal heruntergeladen und von Google entfernt, bevor WIRED das Unternehmen kontaktierte. Ein Apple-Sprecher erklärte, die Apps hätten bei der Prüfung den Regeln entsprochen und die Entwickler hätten nach der Freigabe die Website-Inhalte ausgetauscht, die die Apps laden. Meta erklärte, gegen 11.600 Werbekonten vorgegangen zu sein und die Werbung von 209 betroffenen Apps blockiert zu haben. Apples am 16. Oktober aktualisierte Prüfrichtlinien behandeln bereits KI-generierte intime Bilder ohne Einwilligung und versteckte Funktionen — doch die Verschärfung der Regeln hat dieses Netzwerk nicht aufgehalten.
Nach der Entfernung ist das Problem nicht vorbei
Mit der Entfernung von 19 Apps wurde nur der benannte Teil erfasst. Der Untersuchung zufolge kamen in Spitzenzeiten rund 30 neue App-Website-Paare pro Woche hinzu, und ähnliche Werbung tauchte auch noch auf, als die Untersuchung abgeschlossen wurde. Für Nutzerinnen und Nutzer lautet die praktischere Warnung: Eine Freigabe im App-Store bedeutet nicht, dass alle Inhalte, die eine App lädt, geprüft wurden; Apps unklarer Herkunft, mit vager Funktionsbeschreibung, die persönliche Fotos verlangen, verdienen besondere Vorsicht. Die Plattformen müssen nun eine konkrete Frage beantworten: Kann serverseitiger Inhaltsaustausch während des Betriebs erkannt werden, statt erst nach einer Medienuntersuchung zu handeln? Eine andere, bereits erprobte Richtung ist es, KI-generierte Inhalte erkennbar zu kennzeichnen; der Artikel Claude-Textwasserzeichen auf vier Modelle ausgeweitet erörtert die tatsächliche Wirkung und die Umgehungsmöglichkeiten einer solchen Kennzeichnung.
