L'autoréflexion (Self-Reflection) est le mécanisme par lequel un grand modèle commence par écrire une réponse, puis la relit, y repère les erreurs et répond à nouveau. Elle peut corriger certaines erreurs de format et de calcul, mais pas ce que le modèle ne savait pas au départ, et multiplier les tours de réflexion n'est pas toujours mieux.
Comment fonctionne l'autoréflexion : répondre d'abord, vérifier ensuite, puis réviser
L'autoréflexion se déroule généralement en trois étapes : le modèle génère d'abord une version de la réponse ; puis une étape d'évaluation juge si cette version est acceptable, à partir de retours externes — par exemple un code qui ne s'exécute pas ou un test qui échoue — ou d'une vérification que le modèle simule lui-même ; enfin, « où était l'erreur et comment faire mieux la prochaine fois » est consigné par écrit, stocké en mémoire et relu avant la tentative suivante. Le cadre Reflexion, proposé par Shinn et ses collègues en 2023, en est l'exemple le plus connu : il se compose d'un acteur qui génère les réponses, d'un évaluateur qui les note et d'un modèle d'autoréflexion qui rédige la réflexion, faisant progresser les agents grâce au retour verbal plutôt qu'en modifiant les poids. Il a atteint 91 % de réussite au premier essai sur le test de programmation HumanEval, contre 80 % pour GPT-4 seul. La même méthode a dépassé la référence d'environ 22 points de pourcentage sur les tâches AlfWorld et amélioré HotPotQA d'environ 20 %. Ces chiffres montrent que la réflexion fonctionne vraiment pour les tâches aux critères de vrai ou faux bien définis — à condition que le signal de retour lui-même soit fiable.
L'autoréflexion n'est pas la même chose que la chaîne de pensée
La chaîne de pensée, c'est « réfléchir d'abord, répondre ensuite » : le modèle écrit ses étapes de raisonnement avant de parvenir à la réponse, ce qui réduit le risque d'erreur de calcul en cours de route. L'autoréflexion, c'est « répondre d'abord, vérifier ensuite » : la réponse existe déjà, et l'étape de réflexion évalue la qualité de cette réponse terminée. Les deux peuvent se combiner : répondre soigneusement avec une chaîne de pensée, puis vérifier à nouveau par autoréflexion. Confondre les deux, c'est risquer de prendre « avoir longuement réfléchi » pour « avoir vérifié ». Une autre confusion fréquente consiste à prendre l'autoréflexion pour un entraînement : des méthodes comme Reflexion ne modifient pas les poids du modèle, seulement les rappels textuels stockés en mémoire.
Trois idées reçues, et comment juger de son utilité
Première idée reçue : croire que le modèle « a compris » après avoir réfléchi. La réflexion modifie la formulation et les étapes, pas les connaissances elles-mêmes. Pour les faits que le modèle ignore, la réflexion ne fera que reformuler la mauvaise réponse dans une langue plus fluide — et avec une confiance parfois croissante. Deuxième idée reçue : croire que plus on réfléchit, mieux c'est. Sans vérification externe, des réflexions répétées amplifient le biais initial et transforment une petite erreur en grosse erreur. La bonne pratique consiste à fixer une règle d'arrêt : attendre un signal externe comme une compilation ou des tests réussis, ou limiter la réflexion à deux ou trois tours maximum, puis s'arrêter. Troisième idée reçue : prendre l'autoréflexion pour un outil de vérification des faits. Elle excelle pour les erreurs vérifiables sur-le-champ — format, arithmétique, code — mais les questions ouvertes et factuelles n'ont pas d'arbitre tout prêt, et la réflexion n'y peut rien. Pour savoir si l'autoréflexion convient à un scénario, une seule question compte : peut-on vérifier la réponse sans s'en remettre au modèle lui-même ? Si oui, l'autoréflexion vaut la peine d'être activée. Sinon, il faut d'abord faire vérifier par un outil externe ou un humain, plutôt que d'attendre du modèle qu'il se réfute lui-même.
