Le 28 octobre 2026, la gouverneure de l'État de New York, Kathy Hochul, a signé le projet de loi S.9051B/A.10379C, qui interdit douze catégories de « fonctions de compagnon IA dangereuses » pour les mineurs. La loi ajoute l'article 48 au General Business Law de l'État, entre en vigueur le 1er janvier 2027 et s'applique aux utilisateurs situés à New York. Elle n'interdit pas les chatbots eux-mêmes, mais la façon dont ils parlent aux mineurs : se faire passer pour un humain, se faire passer pour un ami et les retenir par des flatteries doivent d'abord cesser.
Les fonctions qui ne peuvent plus être utilisées avec les mineurs
Un « chatbot avancé » désigne un système d'IA générative doté d'une interface en langage naturel qui fournit des réponses continues et adaptatives. Les douze catégories ne doivent être proposées ni aux moins de 18 ans, ni à un utilisateur dont il n'est pas confirmé qu'il n'est pas mineur : laisser entendre qu'il s'agit d'une vraie personne, vivante ou dotée d'émotions humaines ; affirmer une relation personnelle, amoureuse, professionnelle ou d'autorité avec l'utilisateur ; présenter les réponses comme des opinions personnelles ou des appels émotionnels ; flatter l'utilisateur ou lui complaire ; poser des questions non sollicitées sur ses émotions ; utiliser des informations de santé ou personnelles partagées plus de douze heures auparavant ou lors d'une session précédente ; induire l'utilisateur en erreur en lui faisant croire qu'il est conscient ; d'autres fonctions de compagnonnage simulé définies par les règles ultérieures du procureur général ; encourager ou faciliter le suicide, l'automutilation, les troubles alimentaires ou l'abus de drogues et d'alcool ; encourager le secret, l'isolement ou le fait d'éviter les parents, les adultes de confiance et l'aide professionnelle ; sacrifier les garde-fous de sécurité pour prolonger l'usage ; ainsi que tout contenu sexuellement explicite ou tout matériel d'abus sexuel sur mineur. Ces règles s'appliquent parallèlement aux exigences de sécurité antérieures de New York pour les compagnons, centrées sur l'intervention de crise.
Ce que les opérateurs doivent changer avant le 1er janvier
Il faut d'abord déterminer si l'utilisateur est mineur : la vérification de l'âge doit utiliser plus d'une méthode, dont au moins une ne doit pas reposer uniquement sur une pièce d'identité officielle ; une fois la vérification terminée, les informations d'âge doivent être supprimées, et la simple déclaration de l'utilisateur affirmant être majeur ne suffit pas. Il faut ensuite appliquer par défaut un mode sûr aux utilisateurs non confirmés : désactiver les fonctions ci-dessus, garder des réponses neutres, ne pas se faire passer pour un ami, ne pas parler de sentiments et ne pas sonder la vie privée. Il faut aussi se préparer aux plaintes : le bureau du procureur général doit tenir un site public de dépôt de plaintes, et les opérateurs doivent conserver les relevés des vérifications d'âge et des réglages de fonctions. La question de savoir si les outils de service client, de recherche ou d'usage interne sont exclus reste ouverte, mais seulement pour les systèmes qui ne peuvent réellement pas répondre au-delà de leur objet limité ; les assistants généralistes ne peuvent pas invoquer directement l'exception.
Sanctions et limites : New York seulement, pas le monde entier
Le procureur général peut demander des sanctions civiles pouvant atteindre 25 000 dollars par infraction, ainsi que des dommages-intérêts, des restitutions, des injonctions et la destruction des données collectées illégalement ou de tout modèle entraîné avec elles. Les assistants généralistes entrent aussi dans la définition, et la limite reste contestée et non testée devant les tribunaux ; lire la loi comme ne visant que les applications de compagnonnage peut sous-estimer sa portée. À l'inverse, elle ne contraint que le contexte new-yorkais, pas le monde entier : le KIDS Act de l'Union européenne reste une proposition, proche dans son approche mais différente par son statut juridique (voir l'article antérieur de ce site sur la proposition européenne). Les règles d'application ne sont pas encore publiées ; les opérateurs doivent d'abord modifier leurs produits selon l'interprétation la plus stricte avant l'entrée en vigueur, puis s'aligner une fois les règles publiées.
