Des chercheurs du MIT et d’autres institutions ont publié un article intitulé « Self-Adapting Language Models » dans arXiv, proposant le cadre adaptatif de modèles de langage SEAL, qui permet aux grands modèles de langage de mettre à jour continuellement leurs poids via un mécanisme d'« auto-édition » après le déploiement. Certains posts sur les réseaux sociaux émettent l’hypothèse que si une technologie similaire est utilisée dans le futur GPT-6, de tels systèmes pourraient devenir plus « vivants » au niveau computationnel, suscitant un large débat.
Dans l’article, SEAL permet au modèle d’écrire un texte « auto-édité » lorsqu’il est exposé à de nouvelles tâches ou connaissances, contenant des instructions pour synthétiser les données d’entraînement, optimiser les hyperparamètres ou appeler des outils externes, puis effectuer un ajustement fin à petite échelle basé sur cela, et récompenser ou punir ces auto-modifications en fonction de la performance des tâches en aval via l’apprentissage par renforcement, de sorte que le modèle apprend progressivement « à s’entraîner lui-même ». Les expériences montrent que SEAL présente une amélioration significative des performances par rapport aux méthodes de référence multiples en injection de connaissances et tâches à faible échantillon, mais il présente aussi des limites telles que l’oubli d’anciennes tâches et la difficulté à prédire un comportement complet, et doit encore s’exécuter dans un environnement contrôlé.
Actuellement, il n’existe aucune preuve publique qu’OpenAI ait adopté le SEAL lui-même ou sa solution équivalente dans les produits existants ou GPT-6 non publiés, et la communauté scientifique n’a pas encore trouvé de consensus sur la question de savoir si « les grands modèles sont donc vivants ou conscients ». L’industrie considère généralement SEAL comme une exploration technologique visant à améliorer la capacité d’apprentissage continu des modèles, plutôt que comme un signe d’arrivée d’une sorte d'« IA vivante ».
FAQ
Q : D’où vient l’expression « GPT-6 potentiellement vivant » ?
R : Principalement à partir des interprétations secondaires des articles SEAL, qui comparent le modèle à l’auto-renouvellement durable comme « la vie au sens computationnel », mais c’est une métaphore exagérée.
Q : Quelle est l’idée centrale du cadre SEAL ?
R : Laisser le modèle générer lui-même des instructions d’entraînement et des données synthétiques, mettre à jour ses propres poids par petites étapes, et utiliser l’apprentissage par renforcement pour dépister une « auto-édition » efficace afin de s’adapter continuellement aux nouvelles tâches après le déploiement.
Q : Cela signifie-t-il que GPT-6 sera vraiment « vivant » à l’avenir ?
R : Les recherches existantes ne montrent que des capacités d’apprentissage continu plus flexibles, mais ne prouvent pas que le modèle possède une expérience consciente ou subjective, et que la « vie » est davantage une image dans la propagande ou la discussion.
Q : Quels sont les risques des grands modèles adaptatifs ?
R : Un oubli catastrophique, une dérive des capacités et des difficultés accrues de sécurité et d’alignement peuvent survenir, nécessitant une surveillance stricte, des mécanismes de rétrocession et des contraintes de limites.
Q : OpenAI a-t-il annoncé l’adoption de SEAL ou d’une technologie similaire dans GPT-6 ?
R : À ce jour, OpenAI n’a pas divulgué la voie technique spécifique de GPT-6, ni donné d’explication faisant autorité sur l’adoption de SEAL ou de cadres similaires.
