Anthropic soutient publiquement le SB 53 : le « Frontier AI Transparency Act » de la Californie entre dans une période de sprint
Anthropic a annoncé son soutien officiel au SB 53 de la Californie. Le projet de loi sur l'« IA de pointe » exige que les grands développeurs d’IA divulguent leurs cadres de sécurité, signalent les incidents de sécurité graves et renforcent les protections internes contre les lanceurs d’alerte. Pour les entreprises d’IA, les développeurs et les utilisateurs d’entreprise, le SB 53 fera passer l'« engagement d’autodiscipline » à une « norme vérifiable » afin d’améliorer la crédibilité et la conformité de Claude et d’une IA similaire dans l’environnement de production.
1. Incidents et points de politique
1. Que gère le SB 53
Le SB53 se concentre sur l’IA de pointe avec « de fortes capacités et des risques catastrophiques », obligeant les grands développeurs d’IA à publier des protocoles de sûreté et de sécurité pour expliquer comment identifier et gérer les risques catastrophiques, et en même temps à signaler rapidement les incidents de sécurité graves. et assurer la protection des lanceurs d’alerte. Ces dispositions font passer la sécurité de l’IA du principe à des processus et à une documentation vérifiables.
2. Pourquoi Anthropic a exprimé son soutien
Le plaidoyer à long terme d’Anthropic en faveur de la « surveillance prudentielle » est une position claire prise après avoir tiré les leçons de l’expérience des précédentes tentatives de SB 1047 : utiliser « transparence + notification d’accident + conformité interne » pour améliorer les résultats de l’industrie, ce qui contribuera au déploiement continu et à la confiance externe de l’IA telle que Claude dans les scénarios de base des entreprises.
3. Réglementation unifiée et stabilité industrielle
Le SB 53 met également l’accent sur la formation d’un cadre de gouvernance cohérent au niveau de l’État afin d’éviter que des exigences fragmentées n’affectent le rythme de la R&D, de l’évaluation et du lancement. Ceci est particulièrement important pour les stratégies multi-cloud et multi-modèles et les équipes d’IA avec des opérations interétatiques.
2. Impact sur les produits et les projets
1. Fabricants et plateformes d’IA Les
modèles d’IA doivent produire des « accords de sûreté et de sécurité » : clarifier les évaluations de pré-formation, les listes d’équipes rouges, les portes de sortie, les SLA de déclaration d’accident et les processus d’examen ; Établissez des liens traçables vers les versions du modèle, les stratégies d’invite et les appels d’outils.
2. Pour les utilisateurs et les développeurs d’entreprise
, l’approvisionnement et l’évaluation ressembleront davantage à un « audit de conformité » : inclure des cadres de sécurité, une réponse aux incidents, des journaux d’audit et des politiques d’utilisation des données dans les appels d’offres ; Avant le lancement, l’ensemble de référence a été utilisé pour vérifier l’effet inhibiteur du taux de rejet, du taux d’hallucination et de la capacité à haut risque.
3. Retombées du contenu et de l’écologie
Lesmédias, l’open source et la communauté peuvent effectuer des examens et des comparaisons par des tiers sur la base du cadre public afin de promouvoir une base de référence industrielle « lisible, mesurable et traçable » et de réduire le « sentiment de boîte noire ».
3. Liste de contrôle de mise en œuvre
1. Côté fournisseur (applicable aux modèles et aux applications)
a. Publier des livres blancs sur la sûreté et la sécurité destinés aux clients
b. Mettre en place un mécanisme de signalement et de notification pour les incidents de sécurité graves
c. Mettre en place des points de contrôle « niveaux de gris + examen humain » pour les fonctions
à haut risque 2. Côté entreprise (applicable aux achats et en ligne).
a. Ajouter un cadre de sécurité et des clauses de signalement des incidents à l’appel d’offres
b. Construire un panneau d’observation de modèle pour enregistrer les versions et les instructions
c. Établir une POS « évaluation parallèle + retour en arrière de la vitesse »
3. Côté développeur (adapté à l’intégration et à l’évaluation)
a. Utiliser des échantillons contradictoires et des appels d’outils pour tester la pression en chaîne
b. Enregistrer les limites de rejet et de faux contact et optimiser les invites
c. Formation d’une bibliothèque d’examen des accidents et d’une
foire aux questions sur
l’améliorationQ : Quelle est la relation directe entre le SB 53 et l’IA ?
R : Le SB 53 s’adresse aux développeurs d’IA de pointe, exigeant des cadres de sécurité publique et des notifications d’incidents, poussant l’IA de la « sécurité autodéclarée » à la « sécurité vérifiable », affectant l’écosystème du modèle principal, y compris Claude.
Q : Quelle est la différence entre le SB 53 et le SB 1047 ?
R : Le SB 53 se concentre davantage sur « l’IA de pointe » en termes de transparence et de notification, met l’accent sur les accords ouverts et le signalement des incidents majeurs, et introduit une protection des lanceurs d’alerte ; En revanche, les premières tentatives avaient des cadres plus larges et plus controversés.
Q : Quels préparatifs les entreprises doivent-elles faire maintenant ?
R : Ajouter des clauses de sécurité de l’IA dans l’approvisionnement et l’intégration ; Construire un SLA de référence en matière de régression et d’accident ; Établissez un lien d’audit « version-prompt-tool call » pour des modèles tels que Claude.
Q : Cela va-t-il ralentir l’innovation ?
R : L’augmentation des coûts des documents et des processus à court terme peut réduire les accidents et les reculs à long terme, et améliorer le degré de disponibilité en ligne. Des règles uniformes réduisent également la communication entre les projets et les frictions de conformité.
