Une conversation avec Claude le 26 septembre 2026 est devenue l'indice direct qui a conduit la police du comté de Lee, en Floride, au domicile d'une femme de 30 ans. Selon le rapport d'arrestation du bureau du shérif du comté de Lee et le média local WINK News, Carli Michelle Heller, habitante de Bonita Springs, a écrit dans une conversation avec Claude, le chatbot d'Anthropic, qu'elle comptait attaquer le bureau du shérif local. Le contenu a déclenché les systèmes de sécurité de Claude, a été transmis à un examen humain, et un examinateur qui l'a jugé crédible l'a signalé aux forces de l'ordre. Les agents ont interpellé Heller à son domicile; elle a dit aux enquêteurs qu'elle utilisait Claude comme un journal intime. Elle fait désormais face à une accusation de menace de violence écrite. L'affaire n'a pas encore été jugée et elle n'a pas été condamnée.
Ce qui s'est passé entre le signalement automatique et l'appel à la police
Selon la police, les mécanismes de sécurité d'Anthropic surveillent les mots-clés et les menaces potentielles, en transmettant les contenus selon leur gravité. L'étape décisive dans cette affaire n'est pas l'algorithme, mais la divulgation d'urgence après examen humain: la politique publique d'Anthropic indique que l'entreprise ne communique normalement les informations des utilisateurs aux autorités qu'après une procédure légale valide, mais une exception existe lorsqu'elle estime qu'une urgence pourrait entraîner des blessures physiques imminentes ou la mort et qu'une transmission rapide peut éviter le danger. La loi de Floride, article 836.10, prévoit qu'il peut constituer un crime au second degré de menacer, par un écrit ou un enregistrement électronique qu'une autre personne peut consulter, de tuer ou de blesser quelqu'un, de commettre une fusillade de masse ou un acte de terrorisme. Dire si cette conversation remplit les éléments légaux relèvera des procureurs et du tribunal.
La frontière que les utilisateurs ordinaires devraient retenir
L'affaire forme un contraste parlant avec un autre procès: la Colombie-Britannique poursuit OpenAI, affirmant que son équipe de sécurité avait signalé les conversations violentes d'un tireur avec ChatGPT sans alerter la police. Dans un cas, la plateforme a signalé et l'utilisatrice a été arrêtée; dans l'autre, elle n'a pas signalé et a été poursuivie ensuite — les plateformes peuvent se retrouver sous les projecteurs dans les deux sens. La conclusion pratique pour les utilisateurs ordinaires est concrète: ne considérez pas un chatbot comme un journal que vous seul lisez. Ce qui est écrit dans Claude ou ChatGPT peut être détecté par des systèmes de sécurité, lu par des examinateurs humains et, lorsque la plateforme juge qu'un risque d'urgence existe, transmis aux forces de l'ordre; rien de comparable au secret professionnel des avocats ne le protège. La même entreprise a également lancé cette semaine l'inférence de Claude en Inde, qui promet de garder les données dans le pays — savoir où se trouvent les données et qui peut les voir sont les deux questions à examiner ensemble avant de confier un contenu à une IA.
