ToolNavs Outils IA à découvrir
Proposer Connexion
Retour à Informations sur l’IA
Le filigrane textuel de Claude étendu à quatre modèles : un seul réglage suffit à le contourner

Le filigrane textuel de Claude étendu à quatre modèles : un seul réglage suffit à le contourner

Informations sur l’IA • Admin • • 11 vues

Le filigrane textuel de Claude s'étend à davantage de modèles. Dans un courriel adressé aux clients de son API le 31 octobre, Anthropic a annoncé qu'à partir du 3 novembre, les sorties de Claude Mythos 5, Claude Opus 4.7, Claude Opus 4.6 et Claude Sonnet 4.6 porteront elles aussi un filigrane textuel. Jusqu'ici, seuls les modèles publiés après le 2 août 2026 en portaient un par défaut. Étendre le dispositif aux modèles plus anciens relève de la routine au regard des obligations de transparence du règlement européen sur l'IA, mais Anthropic reconnaît dans le même temps que, sur deux modèles anciens, modifier un seul paramètre d'échantillonnage suffit à faire disparaître le filigrane, ce qui en réduit la valeur pour la conformité.

Anthropic décrit le filigrane comme un « motif imperceptible dans le choix des mots » : le texte se lit de la même façon, il n'ajoute ni caractères ni jetons, ne modifie ni le prix ni le format, et ne ralentit presque pas la génération. Comme la marque est intégrée au niveau du modèle, elle apparaît que le texte vienne de l'application Claude, de l'API ou de Claude Code, ou de versions hébergées sur Amazon Web Services, Google Cloud ou Microsoft Foundry, et les clients ne peuvent pas la désactiver directement. L'API de détection n'est accessible qu'en avant-première privée à des organisations telles que les régulateurs, les médias et les chercheurs, de sorte qu'un lecteur ordinaire ne peut pas vérifier un texte par lui-même. Le système textGrain d'OpenAI n'est activé par défaut que dans l'Union européenne, une approche différente ; voir la démarche d'OpenAI pour le filigrane textuel dans l'UE.

Un paramètre modifié, et le filigrane disparaît

Le problème concerne les deux modèles les plus anciens. Selon le courriel, Claude Opus 4.6 et Claude Sonnet 4.6 ne sont filigranés que si les trois paramètres d'échantillonnage — temperature, top_p et top_k — restent tous à leurs valeurs par défaut ; en modifier un seul produit une sortie non marquée. Anthropic avertit que les utilisateurs qui s'appuient sur le filigrane pour leur conformité doivent conserver les réglages par défaut. Le courriel ne mentionne pas cette limite pour Mythos 5 ni pour Opus 4.7, ce qui laisse penser que leurs filigranes ne dépendent pas des réglages d'échantillonnage, et le déploiement sur Amazon Bedrock interviendra quelques jours plus tard.

Ce qu'un filigrane peut prouver — et ce qu'il ne peut pas

Un filigrane ne sert qu'à la traçabilité a posteriori : une marque détectée montre seulement que le texte a pu être généré par Claude ; elle ne prouve ni qui l'a écrit, ni que son contenu est exact. Le débat sur la qualité n'est pas tranché non plus : certains estiment que choisir les mots selon une clé de filigrane sacrifie forcément la précision, tandis que le secteur juridique craint de voir des filigranes apparaître dans des documents où les clients ont interdit l'usage de l'IA. La technique d'Anthropic dérive de la méthode SynthID pour le texte de Google DeepMind, qui laisse un motif statistiquement détectable en ajustant le caractère aléatoire du choix des mots ; le degré d'ouverture des outils de détection déterminera leur utilité réelle. Voir l'état d'ouverture des outils de détection SynthID.

Après le 3 novembre, les sorties des quatre modèles porteront le filigrane, et les obligations de transparence de l'article 50 du règlement européen sur l'IA atteindront un point clé en décembre. Reste à voir si Anthropic comblera la faille liée aux paramètres sur les modèles anciens, et quand l'API de détection passera de l'avant-première privée à un cercle plus large de vérificateurs.

Outils Recommandés

Plus