Anthropic présenterait au Congrès américain un projet de loi sur la sécurité de l'IA, selon des informations publiées le 20 octobre 2026 : lorsqu'un modèle est évalué comme présentant un risque prévisible et imminent de plus de 50 morts ou de plus d'un milliard de dollars de dommages matériels, sa diffusion pourrait être bloquée. Politico a révélé le projet, et un porte-parole d'Anthropic l'a confirmé au média, précisant qu'il transpose les propositions de l'Advanced AI Framework que l'entreprise défend depuis juin auprès des élus fédéraux et des États.
La ligne rouge vise trois types de catastrophe
Le projet limite le risque bloquable à trois sources : la fabrication d'une arme biologique avec l'aide du modèle, un modèle échappant au contrôle de son développeur et un modèle utilisé pour une cyberattaque. Les seuils de 50 personnes et d'un milliard de dollars ne sont pas nouveaux ; ils correspondent largement à la définition du « risque catastrophique » dans la loi californienne SB 53 déjà adoptée. Un seuil apparu d'abord dans un droit d'État passe ainsi dans un projet fédéral. Pour le lecteur, le débat s'est déplacé : il ne s'agit plus de savoir s'il faut une ligne, mais à quel chiffre la placer. Une fois inscrite dans la loi, chaque modèle de pointe devra passer cette évaluation avant diffusion.
Des évaluateurs indépendants jugent, un juge décide
Selon le projet, le risque serait jugé non par le laboratoire lui-même, mais par des évaluateurs indépendants enregistrés auprès du département du Commerce. Ils peuvent être payés par les laboratoires, à condition que le paiement ne dépende pas des résultats. Si un évaluateur constate un risque catastrophique imminent, il dispose de 72 heures pour prévenir le département du Commerce, qui doit alors demander à un juge de Washington d'arrêter la diffusion. Le projet interdit expressément à toute agence fédérale de bloquer la distribution de sa propre initiative. Le dispositif enferme délibérément le pouvoir discrétionnaire : l'autorité d'arrêter un modèle passe finalement par un tribunal. Nous avions déjà couvert les demandes d'enquête de la FTC à OpenAI et Anthropic ; la pression réglementaire monte, et cette fois, c'est une entreprise qui a remis les règles qu'elle dit pouvoir accepter.
Proposer ses propres règles n'a rien de simple
Le secteur n'est pas uni : Jensen Huang, PDG de NVIDIA, a récemment affirmé publiquement que l'IA n'avait pas besoin de nouvelles lois, tandis qu'Anthropic choisit de soumettre un texte doté d'un mécanisme de blocage obligatoire, allant plus loin que les engagements volontaires de la plupart de ses pairs. Le point le plus fragile reste l'indépendance d'évaluateurs rémunérés : un paiement non lié aux résultats ne supprime pas à lui seul la crainte de perdre le prochain contrat. La variable à suivre est de savoir si le Congrès se saisira du projet et si les seuils de 50 personnes et d'un milliard de dollars survivront aux négociations.
