L'oubli catastrophique désigne ce qui se produit lorsqu'un réseau de neurones apprend des tâches les unes après les autres et, en maîtrisant les dernières, perd une grande partie de ce qu'il savait faire. Ajustez un modèle compétent sur les données d'un nouveau domaine : les scores de la nouvelle tâche montent, tandis que la réponse aux questions, la classification ou une langue qu'il traitait bien se dégradent nettement. Beaucoup d'équipes le découvrent lors de leur premier entraînement incrémental. Le modèle n'est pas devenu bête ; la méthode d'entraînement porte cet effet secondaire en elle-même.
Pourquoi les nouvelles données emportent les anciens paramètres
Les capacités d'un modèle ne sont pas rangées dans des entrepôts séparés par tâche ; elles sont réparties sur un même ensemble de paramètres. Lors de la reprise d'entraînement, l'objectif ne mesure que l'erreur sur les nouvelles données : les gradients poussent donc les paramètres vers ce qui sert la nouvelle tâche, et personne ne défend les anciennes positions. Plus les tâches partagent de paramètres, plus l'entraînement est long et le taux d'apprentissage élevé, plus l'ancien savoir est réécrit. Comme un tableau réutilisé à chaque cours sans zone réservée aux notes précédentes : ce qui s'efface, ce ne sont pas des coins, mais des pans entiers.
Frontières avec deux situations voisines
La première est la simple mauvaise généralisation : échouer sur un problème jamais appris, ce n'est pas oublier. Le critère est strict. La même ancienne tâche, réussie avant le nouvel entraînement et ratée après, avec une chute causée par cet entraînement, voilà l'oubli catastrophique. La seconde est l'oubli humain, en général progressif et réparable par la révision et l'association. L'oubli neuronal peut être brutal : un seul passage d'entraînement peut ramener la précision d'une tâche près du hasard, d'où le mot catastrophique.
Les scènes où il frappe le plus
Complétez au fil du temps un modèle d'assistance avec les questions des nouveaux produits, et il peut devenir lentement moins bon sur les anciens. Entraînez intensivement une seconde langue après la première, et la finesse de la première s'érode. Réentraînez un robot ou un modèle de conduite avec les capteurs d'une nouvelle ville, et son jugement dans l'ancien environnement peut s'estomper. Le point commun : des données qui arrivent en séquence et ne sont notées que sur le lot du moment. Tout mélanger en un seul entraînement adoucit en général l'effet ; c'est pourquoi le pré-entraînement en parle peu, et l'ajustement incrémental et l'apprentissage continu constamment.
Des remèdes qui couvrent chacun un bout du chemin
La relecture d'anciens exemples est le geste le plus simple et le plus courant : mêler des échantillons des anciennes tâches aux nouvelles données, comme réviser en apprenant, au prix du stockage et du calcul supplémentaire. Les approches par régularisation verrouillent les paramètres qui comptaient le plus pour les anciennes tâches et pénalisent leur modification ; la consolidation élastique des poids en est l'idée classique. Les approches par isolation donnent aux nouvelles tâches leur propre espace, en n'entraînant que quelques paramètres ajoutés, des adaptateurs de faible rang ou des modules séparés, pour laisser la base presque intacte. En pratique, on combine : petit taux d'apprentissage, anciens exemples mêlés, adaptateurs seuls entraînés, et un jeu fixe de régression des anciennes tâches vérifié après chaque mise à jour.
L'oubli n'est pas toujours l'ennemi
Un point souvent manqué : un peu d'oubli est utile. Les anciennes données contiennent des formulations dépassées, des étiquettes fausses et des règles métier abolies, et un modèle qui ne lâche rien de tout cela ne peut absorber le nouveau. Ce qu'il faut empêcher, c'est l'oubli incontrôlé, où une compétence importante est emportée en silence, sans vérification. L'habitude d'ingénierie décisive n'est donc pas d'exiger zéro oubli, mais de refaire passer un jeu fixe d'anciennes tâches après chaque mise à jour incrémentale et de ne publier que si la chute reste dans les limites fixées à l'avance.
