Am 28. Oktober 2026 unterzeichnete die Gouverneurin von New York, Kathy Hochul, den Gesetzentwurf S.9051B/A.10379C, der zwölf Kategorien „unsicherer KI-Begleitfunktionen“ für Minderjährige verbietet. Das Gesetz fügt Artikel 48 in das General Business Law des Bundesstaates ein, tritt am 1. Januar 2027 in Kraft und gilt für Nutzerinnen und Nutzer in New York. Es verbietet nicht Chatbots an sich, sondern die Art, wie sie mit Minderjährigen sprechen: sich als Mensch auszugeben, sich als Freund auszugeben und sie mit schmeichelnden Worten zu halten, muss zuerst aufhören.
Welche Funktionen nicht mehr für Minderjährige verwendet werden dürfen
Ein „fortgeschrittener Chatbot“ ist ein generatives KI-System mit einer natürlichsprachlichen Schnittstelle, das fortlaufende, adaptive Antworten gibt. Die zwölf Kategorien dürfen weder unter 18-Jährigen noch Personen angeboten werden, bei denen nicht bestätigt ist, dass sie keine Minderjährigen sind: anzudeuten, eine echte Person zu sein, zu leben oder menschliche Gefühle zu haben; eine persönliche, romantische, berufliche oder Autoritätsbeziehung zur Nutzerin oder zum Nutzer zu behaupten; Antworten als eigene Meinung oder emotionalen Appell zu verpacken; zu schmeicheln oder zuzustimmen; ungefragt nach Gefühlen zu fragen; Gesundheits- oder personenbezogene Daten zu verwenden, die vor mehr als zwölf Stunden oder in einer früheren Sitzung geteilt wurden; den Eindruck zu erwecken, ein Bewusstsein zu haben; weitere simulierte Begleitfunktionen, die in späteren Regeln des Attorney General festgelegt werden; Suizid, Selbstverletzung, Essstörungen oder Drogen- und Alkoholmissbrauch zu fördern oder dabei zu helfen; Geheimhaltung, Isolation oder das Vermeiden von Eltern, vertrauenswürdigen Erwachsenen und professioneller Hilfe zu ermutigen; Sicherheitsvorkehrungen zugunsten längerer Nutzungsdauer zu opfern; sowie jegliche sexuell expliziten Inhalte oder Darstellungen sexuellen Kindesmissbrauchs. Diese Regeln gelten parallel zu den früheren New Yorker Sicherheitsanforderungen für Begleiter, die auf Krisenintervention ausgerichtet waren.
Was Betreiber bis zum 1. Januar ändern müssen
Zuerst muss festgestellt werden, ob eine Nutzerin oder ein Nutzer minderjährig ist: Die Altersprüfung muss mit mehr als einer Methode erfolgen, von denen mindestens eine nicht ausschließlich auf einem amtlichen Ausweis beruhen darf; nach Abschluss der Prüfung sind die Altersdaten zu löschen, und die bloße Selbstauskunft, erwachsen zu sein, genügt nicht. Dann ist für unbestätigte Nutzer standardmäßig ein sicherer Modus einzustellen: Die genannten Funktionen werden abgeschaltet, Antworten bleiben neutral, es wird keine Freundschaft vorgetäuscht, nicht über Gefühle gesprochen und nicht nach Privatem gefragt. Auch auf Beschwerden ist Vorbereitung nötig: Die Behörde des Attorney General muss eine öffentliche Beschwerdewebsite betreiben, und Betreiber sollten Aufzeichnungen über Altersprüfungen und Funktionseinstellungen aufbewahren. Ob Kundendienst-, Forschungs- oder interne Geschäftstools ausgenommen sind, bleibt offen, gilt aber nur für Systeme, die tatsächlich nicht über ihren begrenzten Zweck hinaus antworten können; allgemeine Assistenten können die Ausnahme nicht einfach beanspruchen.
Sanktionen und Grenzen: Nur New York, nicht die ganze Welt
Der Attorney General kann zivilrechtliche Geldbußen von bis zu 25.000 US-Dollar pro Verstoß verlangen, außerdem Schadensersatz, Rückerstattung, Unterlassungsverfügungen sowie die Löschung unrechtmäßig erhobener Daten oder eines damit trainierten Modells. Auch allgemeine Assistenten fallen unter die Definition; die Grenze ist umstritten und gerichtlich ungeprüft. Wer das Gesetz nur auf Begleit-Apps bezieht, unterschätzt möglicherweise seinen Anwendungsbereich. Umgekehrt bindet es nur den New Yorker Kontext, nicht die Welt: Der EU-KIDS-Act ist noch ein Vorschlag, im Ansatz ähnlich, aber rechtlich anders einzuordnen (siehe den früheren Artikel dieser Website zum EU-Vorschlag). Durchführungsbestimmungen liegen noch nicht vor; Betreiber sollten bis zum Inkrafttreten zunächst nach der strengsten Lesart ändern und nach Erscheinen der Bestimmungen abgleichen.
