Am 2. Dezember 2026 treten zwei neue Verbote der EU-Verordnung über künstliche Intelligenz in Kraft: KI-Systeme, die nicht einvernehmliche intime Bilder oder Material über sexuellen Kindesmissbrauch erzeugen, dürfen in der EU weder in Verkehr gebracht, in Betrieb genommen noch verwendet werden. Am selben Tag endet die Übergangsfrist für die maschinenlesbare Kennzeichnung von Inhalten für generative KI-Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden. Beide Änderungen stehen im Digitalen Omnibus zur KI (Verordnung (EU) 2026/1744), der im Juli dieses Jahres in Kraft getreten ist. Ihr Anwendungsbereich beschränkt sich auf die EU.
Was genau ist ab dem 2. Dezember verboten?
Das erste Verbot betrifft KI-Systeme, die realistische Bilder, Videos, Audiodateien oder ähnliches Material erzeugen oder manipulieren, das die intimen Körperteile einer identifizierbaren natürlichen Person oder diese Person bei sexuellen Handlungen zeigt – sofern keine frei erteilte, spezifische, informierte, eindeutige und ausdrückliche Einwilligung dieser Person vorliegt. Das zweite betrifft Systeme, die Material über sexuellen Kindesmissbrauch erzeugen oder manipulieren, im Sinne der Richtlinie 2011/93/EU, vorbehaltlich einer „ohne Recht"-Verteidigung nach nationalem Recht. Das Verbot gilt jedoch nicht bedingungslos: Artikel 5 Absatz 1a sieht vor, dass ein System für Anbieter nur in zwei Fällen verboten ist – wenn die Erzeugung solcher Inhalte der vorgesehene Zweck des Systems ist, oder wenn Gestaltung, Training, Architektur oder Funktionen des Systems eine solche Erzeugung zu einem vernünftigerweise vorhersehbaren und reproduzierbaren Ergebnis machen, während das System keine angemessenen und ausreichenden technischen Sicherheitsmaßnahmen besitzt, um sie zuverlässig zu verhindern und festgestellten oder gemeldeten Missbrauch zu korrigieren. Für Anwender ist die Nutzung nur dann verboten, wenn sie das System zum Zweck der Erzeugung solcher Inhalte einsetzen. Eine bloße Veränderung eines Bildes, die weder die Sichtbarkeit intimer Körperteile erhöht noch die Art sexueller Handlungen verändert, gilt im Sinne der Vorschrift nicht als „Manipulation".
Was Unternehmen vor dem 2. Dezember prüfen sollten
Inventarisieren Sie zunächst die generativen Systeme, die Sie in der EU in Verkehr bringen oder verwenden: Gibt es Funktionen, die mit der Erzeugung intimer Bilder oder Face-Swap-Nacktheit werben, können Prompt-Filterung und Output-Erkennung solche Anfragen blockieren, und gibt es einen Mechanismus zur Korrektur nach Meldungen? Allgemeine große Modelle fallen als solche nicht unter das Verbot. Ein Produkt jedoch, das „Entkleiden per Knopfdruck" als Hauptfunktion bewirbt oder wissentlich zulässt, dass Nutzer damit massenhaft solche Inhalte erzeugen, ohne Schutzmaßnahmen zu ergreifen, fällt unter den zweiten Fall des Artikels 5 Absatz 1a. Auch Artikel 50 Absatz 2 läuft am selben Tag aus: Generative Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, müssen bis zum 2. Dezember eine maschinenlesbare Kennzeichnung aufweisen – wie ChatGPTs Text-Wasserzeichen eingeführt wurde, kann als Referenz dienen. Halten Sie Antworten von Lieferanten schriftlich fest; mündliche Zusagen gehören nicht in eine Compliance-Akte.
Ein Verstoß gegen ein Verbot fällt in die schwerste Bußgeldstufe der Verordnung: bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Verstöße gegen die Transparenzpflichten des Artikels 50 fallen in eine eigene Stufe von bis zu 15 Millionen Euro oder 3 %. Der 2. Dezember ist auch nicht das Datum des vollständigen Inkrafttretens: Die Pflichten für Hochrisiko-Systeme bleiben bis zum 2. Dezember 2027 (Anwendungsfälle nach Anhang III) und bis zum 2. August 2028 (in regulierte Produkte eingebettete KI) aufgeschoben; jetzt treten nur die neuen Verbote und das Ende der Kennzeichnungsübergangsfrist in Kraft. Auch der territoriale Anwendungsbereich ist klar: Systeme, die außerhalb der EU in Verkehr gebracht und in der EU nicht verwendet werden, fallen unter keine der beiden Vorschriften, und weder die USA noch China haben derzeit ein entsprechendes Verbot – die EU-Regeln als weltweit gültig darzustellen, wäre falsch.
