Garde-fous IA
Demander au modèle de se surveiller lui-même n’est pas une frontière de sécurité. On décompose ici les couches d’un dispositif de garde-fous, les portes d’entrée de l’injection de prompt et la raison pour laquelle permissions et approbations doivent vivre hors du modèle, dans du code déterministe.
Le prompt système partage l’espace langagier de l’entrée : l’injection réécrit le jugement. Les garde-fous se placent donc à l’extérieur : entrées contrôlées, appels d’outils sur liste blanche, actions risquées soumises à approbation. Constitutional Classifiers++ maintient le surcoût de la défense autour de 1 %. Les garde-fous n’arrêtent pas tout, ils enferment l’échec dans une frontière de droits.
