Ein Gespräch mit Claude am 26. September 2026 wurde zum direkten Hinweis, der die Polizei im Lee County in Florida zu einer 30-jährigen Frau führte. Nach dem Festnahmebericht des Lee County Sheriff's Office und dem Lokalsender WINK News schrieb Carli Michelle Heller aus Bonita Springs in einem Gespräch mit Anthropics Chatbot Claude, sie plane einen Angriff auf das örtliche Sheriffbüro. Der Inhalt löste Claudes Sicherheitssysteme aus, wurde an menschliche Prüfer weitergeleitet, und ein Prüfer, der ihn als glaubwürdige Drohung einstufte, meldete ihn den Strafverfolgungsbehörden. Beamte nahmen Heller zu Hause fest; sie sagte den Ermittlern, sie habe Claude wie ein Tagebuch benutzt. Ihr wird nun eine schriftliche Gewaltdrohung zur Last gelegt. Der Fall ist noch nicht vor Gericht verhandelt worden, und sie ist nicht verurteilt.
Was zwischen automatischer Markierung und Polizeimeldung geschah
Nach Angaben der Polizei überwachen Anthropics Sicherheitsmechanismen Schlüsselwörter und potenzielle Drohungen und eskalieren Inhalte nach Schweregrad. Der entscheidende Schritt in diesem Fall war nicht der Algorithmus, sondern die Notfall-Offenlegung nach menschlicher Prüfung: Anthropics öffentliche Richtlinie sieht vor, dass Nutzerdaten normalerweise nur nach einem gültigen rechtlichen Verfahren an Behörden gehen, kennt aber eine Ausnahme, wenn das Unternehmen eine Notlage annimmt, die zu unmittelbar drohender Körperverletzung oder zum Tod führen könnte und eine rechtzeitige Weitergabe die Gefahr abwenden kann. Nach Abschnitt 836.10 des Rechts von Florida kann es ein Verbrechen zweiten Grades sein, über eine schriftliche oder elektronische Aufzeichnung, die eine andere Person einsehen kann, Tötung, Körperverletzung, einen Massenerschießungsakt oder Terrorismus anzudrohen. Ob dieses Gespräch die rechtlichen Tatbestandsmerkmale erfüllt, müssen Anklage und Gericht klären.
Die Grenze, die sich normale Nutzer merken sollten
Der Fall bildet einen aufschlussreichen Kontrast zu einer anderen Klage: British Columbia verklagt OpenAI mit dem Vorwurf, dessen Sicherheitsteam habe die gewaltbezogenen Gespräche eines Attentäters mit ChatGPT markiert und dennoch nicht die Polizei alarmiert. Im einen Fall meldete die Plattform, und die Nutzerin wurde festgenommen; im anderen meldete sie nicht und wurde hinterher verklagt — Plattformen können aus beiden Richtungen ins Rampenlicht geraten. Die praktische Folgerung für normale Nutzer ist konkret: Behandeln Sie einen Chatbot nicht wie ein Tagebuch, das nur Sie lesen. Was in Claude oder ChatGPT geschrieben wird, kann von Sicherheitssystemen erkannt, von menschlichen Prüfern gelesen und, wenn die Plattform ein Notfallrisiko annimmt, an Strafverfolgungsbehörden weitergegeben werden; ein Schutz wie das Anwaltsgeheimnis besteht nicht. Dasselbe Unternehmen hat diese Woche auch Claudes landesinterne Inferenz in Indien gestartet, die damit wirbt, Daten im Land zu halten — wo Daten liegen und wer sie sehen kann, sind die beiden Fragen, die vor der Übergabe von Inhalten an eine KI zusammengehören.
