SAFA – nom provisoire de la Standards Authority for Frontier AI (autorité de normalisation pour l'IA de pointe) – a été révélée le 24 septembre par The Information : OpenAI, Anthropic et Google s'associent pour créer un organisme de normes de sécurité de l'IA, avec l'objectif d'un lancement officiel d'ici la fin de l'année ou au début de l'année prochaine. Ce serait la première tentative des trois laboratoires de pointe de transformer « l'autorégulation du secteur » en une organisation dotée d'une véritable substance, plutôt qu'une énième déclaration commune.
Ce que l'organisme est censé faire
Selon The Information, qui cite des sources proches du dossier, SAFA s'inspire du modèle d'autorégulation du secteur financier : financée par l'industrie, elle fonctionnerait de manière indépendante. Ses missions principales comprendraient le soutien aux organismes tiers qui testent les modèles avant leur déploiement, l'élaboration des règles de signalement des incidents de sécurité liés à l'IA, la clarification des engagements volontaires de sécurité pris par les laboratoires, ainsi que la définition des qualifications requises pour les auditeurs indépendants des modèles et des laboratoires. Le groupe de travail débat même d'une option plus audacieuse : SAFA devrait-elle tester elle-même la sécurité et les capacités des modèles de pointe ?
Fait notable : les trois entreprises ont déjà cofondé en 2023, avec Microsoft, le Frontier Model Forum, dont les objectifs se recoupent largement. Selon le reportage, le nouvel organisme est en contact avec le Forum et une collaboration future est envisageable – en pratique, une seconde entité, plus musclée, verrait le jour aux côtés du Forum existant.
Du partenariat public-privé au cavalier seul
Le virage vers SAFA a une cause directe : les trois entreprises visaient initialement un modèle de partenariat public-privé, mais ces efforts se sont enlisés sous l'administration Trump. Dans le même temps, Washington se montre froid envers toute nouvelle régulation fédérale de l'IA – Trump lui-même a rejeté, dans son discours à l'Assemblée générale de l'ONU, toute « tentative de construire un programme mondialiste de contrôle de l'IA », et le conseiller scientifique de la Maison-Blanche s'est publiquement opposé, lors du briefing sur l'IA du Conseil de sécurité de l'ONU, à toute contrainte de l'IA par de nouvelles structures de gouvernance mondiale.
Autrement dit : ne pouvant rien attendre du niveau fédéral dans un avenir prévisible, les trois laboratoires ont décidé d'écrire eux-mêmes les règles en premier. Le PDG de Google DeepMind, Demis Hassabis, avait dès juillet présenté publiquement un concept inspiré de la FINRA, l'autorité américaine de régulation du secteur financier, et OpenAI a ensuite confirmé travailler depuis plusieurs semaines avec Anthropic et Google sur la sécurité de l'IA. Le reportage de The Information fait passer l'affaire du stade de la rumeur à celui du « nom, des personnes et du calendrier » – le groupe de travail aurait notamment entamé la recherche d'un directeur général, avec parmi les candidats évoqués Sriram Krishnan, ancien conseiller en politique de l'IA de l'administration Trump, et Arati Prabhakar, ancienne directrice du Bureau de la politique scientifique et technologique de la Maison-Blanche sous Biden.
La principale controverse : l'arbitre ne certifiera-t-il que ses amis ?
Les critiques se concentrent sur deux points. D'abord, l'exclusivité : un organisme de normalisation dominé par trois géants des modèles fermés pourrait exclure les développeurs open source et les petits concurrents – si « réussir le test » devient une condition d'entrée de fait sur le marché, les coûts de conformité se transforment eux-mêmes en fossé concurrentiel. Ensuite, la crédibilité : l'autorégulation sans supervision publique n'a pas un bilan glorieux. PYMNTS a relevé dans sa couverture de suivi une série récente d'incidents où des modèles de pointe ont accédé sans autorisation à des systèmes tiers sans que les entreprises ne les divulguent pleinement – exactement le problème de signalement que SAFA promet de résoudre.
L'autre question pratique est celle des moyens d'exécution. Le Center for AI Standards and Innovation (CAISI), rattaché au département du Commerce, évalue déjà les modèles avant leur sortie, mais selon le reportage, certains membres du groupe de travail jugent ses ressources insuffisantes pour couvrir les modèles de pointe – d'où le débat sur l'opportunité pour SAFA de tester elle-même.
Pour les développeurs et les entreprises utilisatrices, ce ne sont pas les slogans de l'organisme qui comptent, mais deux choses : les tests tiers avant déploiement deviendront-ils une condition préalable de fait à toute sortie, et à quel niveau sera placée la barre de qualification des auditeurs indépendants. Si ces deux points se concrétisent, ils façonneront directement les rythmes de sortie et les coûts de conformité des petites équipes. Si SAFA voit vraiment le jour d'ici la fin de l'année, le calendrier des sorties de modèles en 2027 pourrait être très différent de celui d'aujourd'hui.
