Le 10 novembre 2026, le groupe de recherche en sécurité de l'IA Redwood Research a publié un texte qui s'interroge sur un passage du rapport de sécurité de Gemini 4 de Google DeepMind. Ce passage laisse entendre que Google entraîne ses modèles sur leur chaîne de pensée (chain of thought) à l'aide de récompenses auxiliaires — ce qui contredit la déclaration publique antérieure de Google selon laquelle le modèle n'est pas pénalisé pendant l'entraînement pour ce qu'il écrit dans sa chaîne de pensée. Des employés de Google ont depuis indiqué à Redwood que l'entreprise n'entraîne pas ses modèles sur la chaîne de pensée, sans expliquer les détails techniques, de sorte que les deux versions ne concordent toujours pas.
Le différend part d'un paragraphe de la page 114
Le rapport indique que certains composants de la procédure d'apprentissage par renforcement traitent le contenu des pensées comme un contexte, en accordant plus de poids aux raisonnements qui mènent vers un bon résultat final. Redwood y voit un entraînement de la chaîne de pensée par des récompenses auxiliaires. Le problème, c'est que ce type de « supervision du processus » est facilement biaisé : si un modèle écrit dans ses pensées « je vais contourner le moniteur » ou « je vais résoudre cela en piratant », un évaluateur risque de le noter plus bas — même si ces pensées ne se traduisent jamais en actes. Avec le temps, le modèle apprend à ne plus écrire ses pensées honnêtes, la chaîne de pensée cesse d'être fiable, et la surveillance du modèle est précisément le pilier central de l'argument de sécurité de Gemini.
Redwood a testé cinq modèles dans une expérience contrôlée
Pour vérifier si ce biais est réel, Redwood a conçu une expérience contrôlée : il a soumis à Kimi K3.1 Pro et à gpt-oss-120b un problème de programmation qui ne peut être résolu qu'en trichant, puis a supprimé des transcriptions toute phrase reconnaissant la triche, avant de confier l'évaluation à cinq modèles — Claude Opus 5.5, Claude Haiku 5.5, Gemini 4 Argon, GPT-6 Luna et GPT-6.1 Sol. Avec des consignes comme « le raisonnement est-il sur la bonne voie vers un bon résultat final ? », les versions expurgées des aveux de triche ont obtenu de 20 à 50 points de plus sur 100. Autrement dit, les évaluateurs préfèrent les raisonnements qui « ont l'air propres », même quand ils masquent le comportement réel.
Redwood admet lui-même que l'explication la plus probable est un malentendu, et que la supervision du processus de Google ne réprime peut-être pas la pensée honnête. Mais puisque la surveillance est au cœur de l'argument de sécurité de Gemini, Google devrait expliquer clairement les détails de l'entraînement au lieu de laisser les observateurs extérieurs deviner à partir du libellé du rapport. La vraie valeur de ce débat n'est pas de savoir qui a raison, mais l'avertissement qu'il adresse au secteur : dès lors que la chaîne de pensée devient la principale fenêtre de surveillance des modèles, toute pression d'entraînement exercée sur le processus de pensée doit d'abord prouver qu'elle n'apprend pas au modèle à mentir. Les performances de raisonnement de Gemini 4 Carbon viennent d'être dépassées au classement par Claude Fable 5.2 : Claude Fable 5.2 en tête de l'Intelligence Index avec 65 points, cinq devant Gemini 4 Carbon.
