Am 17. November 2026 hat OpenAI auf seiner Website ein Paket von Kinderschutzmaßnahmen angekündigt: einen kostenlosen Bildklassifikator, der CSAM – auch KI-generiertes Material – erkennen kann, sowie neue Interventionswarnungen in ChatGPT. Wer versucht, Material zur sexuellen Ausbeutung von Kindern zu finden, wird unterbrochen und verliert den Zugang für 24 Stunden.
Kostenloser Klassifikator: halb so viele Markierungen, fast gleiche Treffer
Der Klassifikator wurde mit dem US-amerikanischen National Center for Missing & Exploited Children (NCMEC) entwickelt. Er erkennt neue Bilder, die der Hash-Abgleich übersieht, und liefert Bewertungen, damit Prüfer entscheiden können, was sie zuerst ansehen. Die interne Auswertung zeigt: Er markiert 48 % weniger Bilder als das bisherige Werkzeug und findet dabei etwa gleich viele Missbrauchsbilder; markierte Bilder enthielten etwa doppelt so häufig Missbrauch. Frühe Partner berichten aus der Praxis: Bei fal bestätigte die menschliche Prüfung 72 % der Markierungen mit hoher Konfidenz als neues CSAM, und SafetyKit erreichte bei Zeichnungen und Animationen, die Kinder sexualisieren, eine Erkennungsrate von 90 %. Der Klassifikator wird geprüften Organisationen kostenlos per API angeboten, unabhängig von der Teamgröße.
ChatGPT unterbricht den Versuch jetzt sofort
Die neue Warnung erklärt den Schaden, den die Sexualisierung von Kindern anrichtet – auch bei KI-generiertem Material –, löscht das betroffene Gespräch und pausiert den Zugang für 24 Stunden. Bei wiederholten Verstößen drohen längere Sperren, Kontoschließung oder Meldung an Behörden. OpenAI hat außerdem einen CSAM-Leitfaden für Entwickler veröffentlicht und stellt Strafverfolgungsbehörden Untersuchungswerkzeuge und Schulungen bereit. Die Arbeitsteilung ist klar: Erkennung an Institutionen, Intervention im Produkt, Ermittlungsunterstützung an die Strafverfolgung.
Für kleine Sicherheitsteams ohne Personal für eigene Werkzeuge ist dieses Erkennungsniveau kostenlos eine echte Hilfe – doch der Klassifikator liefert nur Bewertungen, die letzte Entscheidung trifft weiterhin ein Mensch, und der Zugang gilt für geprüfte Organisationen, nicht als öffentliche API. Für normale Nutzer ist die sichtbarste Änderung in ChatGPT: Die Suche wird im Moment gestoppt, nicht erst im Nachhinein bearbeitet. Ein weiterer Schritt auf demselben Sicherheitspfad ist OpenAIs Einladung externer Prüfer direkt in seine Labore: OpenAI holt vier externe Bewertungsorganisationen ins Labor, um die Modellausrichtung zu prüfen.