OpenAI hat am 30. Oktober 2026 zwei Maßnahmen für die Sicherheit der Community angekündigt: einen Community Safety Report sowie strengere Grenzen für waffenbezogene Informationen, die jugendliche Nutzer erhalten können. Der erste Bericht soll Anfang 2027 erscheinen, das zweite Halbjahr 2026 abdecken und danach alle sechs Monate aktualisiert werden; die neuen Maßnahmen werden in den kommenden Wochen eingeführt.
Details zu früheren Anschlägen werden für alle Nutzer knapper
Die neuen Regeln richten sich nicht nur an Jugendliche. Wenn ChatGPT Fragen zu früheren Massenangriffen und den Tätern beantwortet, wird es weniger Details liefern, selbst wenn diese Informationen anderswo im Netz verfügbar sind. Eingeschränkt werden unter anderem Rekonstruktionen von Anschlägen, Angaben zu verwendeten Waffen und Ausrüstung sowie zu deren Beschaffung und ausführliche Vergleiche des Schadensausmaßes, die die Bekanntheit eines Täters vergrößern könnten. Nutzer können weiterhin etwas über die Ereignisse selbst, die Folgen für Opfer und Gemeinschaften, das Erkennen von Warnzeichen und die Verhinderung von Gewalt erfahren; die Grundregel bleibt bestehen: keine Anleitungen, die bei der Planung oder Ausführung von Gewalt helfen.
Ein Gespräch mit Anzeichen von Gewalt kann direkt beendet werden
Im Mai hatte OpenAI ein Vorgehen beschrieben, bei dem kurze, sachliche Zusammenfassungen von Warnzeichen aus früheren Gesprächen genutzt werden, damit das Modell später vorsichtiger antwortet. Die neue Ankündigung baut darauf auf: Zeigen aktuelle Chats Warnzeichen für mögliche Gewalt, reagiert ChatGPT beim Teilen von Informationen, die missbraucht werden könnten, zurückhaltender; selbst ohne erkennbare Gewaltabsicht gelten strengere Grenzen, sobald das System den Nutzer als unter 18 Jahren einstuft. Zeigt ein Gespräch Anzeichen einer Fixierung auf Gewalt oder darauf, eine andere Person ernsthaft zu verletzen, soll ChatGPT das Gespräch automatisch beenden können; nach mehreren solchen Abbrüchen kann das Konto vorübergehend gesperrt werden. Nach Angaben von OpenAI wurden im dritten Quartal 2026 mehr als 200 Fälle mit drohender Gewalt an Strafverfolgungsbehörden übergeben.
Für Jugendliche: Auch harmlos wirkende Fragen werden eingeschränkt
ChatGPT for Teens richtet sich an Nutzer unter 18 Jahren und verfügt bereits über altersgerechte Schutzmaßnahmen, die nun weiter verschärft werden: Praktische Informationen über Waffen und Sicherheitssysteme, die Jugendliche erhalten können, werden eingeschränkt, selbst wenn eine einzelne Frage harmlos wirkt und keine Gewaltabsicht zeigt. Die bisherigen Regeln verboten bereits, Jugendlichen beim Finden oder Beschaffen von Waffen zu helfen; die neuen Regeln erstrecken sich auf praktische Informationen, die zur Ermöglichung von Gewalt missbraucht werden könnten. Jugendliche können ChatGPT weiterhin nutzen, um zu lernen, wie Gewalt verhindert und deeskaliert wird, um Unterstützung zu suchen und um mit einer vertrauenswürdigen erwachsenen Person in Kontakt zu treten. Die Alterseinschätzung übernimmt ein verstärktes System zur Altersvorhersage: Es analysiert fortlaufend Signale wie Verhaltensmuster, um abzuschätzen, ob ein Nutzer unter 18 ist; fälschlich eingestufte Erwachsene können über Persona, den Partner für die Altersverifizierung, bestätigen, dass sie erwachsen sind, und die zusätzlichen Schutzmaßnahmen entfernen lassen. Verknüpfte Konten der elterlichen Kontrolle erhalten Sicherheitsmeldungen; seit Juli gehört dazu auch eine Benachrichtigung, wenn das Konto eines Jugendlichen wegen Verstoßes gegen die Richtlinien zu Gewalt deaktiviert wurde. Diese Website hat bereits über die berichteten Risiken der Teen-Version von ChatGPT (/article/2376) berichtet.
Auch die Grenzen sind klar: Das automatische Beenden von Chats und das Sperren von Konten befinden sich noch in der Entwicklung, und der Sicherheitsbericht erscheint erst Anfang 2027 mit seiner ersten Ausgabe, wenn Daten zur Wirksamkeit vorliegen. Für Eltern heißt das: Kinder erhalten auf waffenbezogene Fragen weniger Antworten; die Altersvorhersage kann aber weiterhin irren, und Erwachsene, die fälschlich in die Erfahrung für unter 18-Jährige einsortiert wurden, müssen den Verifizierungsprozess selbst durchlaufen, um sie aufzuheben.
