Project Beacon a été annoncé par Baseten sur son blog officiel le 9 octobre 2026, en partenariat avec Goodfire AI, avec l'objectif d'intégrer des contrôles de sécurité proactifs directement dans l'inférence des modèles ouverts. Au lieu d'ajouter un filtre textuel après la sortie, le système lit les activations internes du modèle pendant la génération et utilise des sondes pour repérer un événement à risque en train de se produire, afin d'agir avant que le contenu n'atteigne un utilisateur ou un outil.
Les quatre risques surveillés
Baseten cite parmi les risques au niveau de l'inférence : l'injection de prompt cachée dans des documents ou des résultats d'outils pour tenter de détourner un agent ; un agent qui propose des actions dépassant ce que son utilisateur ou son organisation a autorisé ; des informations sensibles de clients ou de l'entreprise apparaissant là où elles ne devraient pas ; et des signes d'usage cyber abusif dans des flux de travail sensibles. Chaque risque appelle une réponse différente : Beacon relie donc les signaux de surveillance développés par Goodfire pour des comportements précis aux systèmes de Baseten qui décident de la réaction de l'application — demander une validation humaine, refuser, basculer vers une autre option, ou simplement consigner l'événement pour examen par les administrateurs.
Pourquoi la surveillance tourne en parallèle de la génération
Dans l'architecture, les moniteurs fondés sur les activations et ceux fondés sur le texte classent chaque requête en même temps, et un modèle de frontière ne tranche que lorsque les deux divergent ; la surveillance s'exécute en parallèle de la génération et ne bloque pas la réponse. Pour les clients entreprises, Baseten prévoit une base de sécurité applicable de façon centralisée, des politiques ajustables par charge de travail et un registre clair de ce qui a été signalé et de la manière dont cela a été traité ; pour les développeurs, les événements et contrôles de sécurité passeront par les mêmes API et outils que l'inférence. L'exemple donné est concret : un agent chargé des litiges de paiement lit les messages des commerçants et les relevés de compte ; un contenu malveillant pourrait le détourner, et une action erronée pourrait exposer des données ou déplacer de l'argent — faire relire chaque étape par un autre grand modèle ne passerait pas à l'échelle, ni en coût ni en latence.
Dans les prochains mois, les capacités de Beacon démarreront avec des modèles et des comportements surveillés sélectionnés, s'étendront aux contrôles d'entreprise et aux fonctions pour développeurs, et arriveront d'abord sur le marché via un petit nombre de partenaires précoces. Pour les équipes qui construisent des agents sur des modèles ouverts, le signal de cette annonce est clair : les contrôles de sécurité migrent du filtre ajouté après coup vers l'infrastructure d'inférence elle-même — et la possibilité d'appeler les signaux de surveillance directement depuis ses propres politiques figurera, aux côtés du prix et de la vitesse, parmi les critères de comparaison des plateformes d'inférence.
