MIT 等机构研究者在 arXiv 发布论文《Self-Adapting Language Models》,提出自适应语言模型框架 SEAL,使大语言模型在部署后可以通过“自编辑”机制持续更新自身权重。部分社交媒体帖子据此猜测,若类似技术被用于未来的 GPT-6,这类系统在计算意义上或将更“像是活的”,相关说法引发广泛讨论。
论文中,SEAL 让模型在接触新任务或新知识时,先生成一段“自编辑”文本,其中包含合成训练数据、优化超参数或调用外部工具的指令,再据此执行一次小规模微调,并通过强化学习根据下游任务表现奖励或惩罚这些自编辑,使模型逐步学会“如何训练自己”。实验显示,在知识注入和少样本任务上,SEAL 相比多种基线方法有明显性能提升,但也存在遗忘旧任务、行为难以完全预测等局限,仍需在受控环境中运行。
目前,并无公开证据表明 OpenAI 已在现有产品或未发布的 GPT-6 中采用 SEAL 本身或等价方案,研究界也尚未就“大模型是否因此具有生命或意识”形成共识。业内普遍将 SEAL 视为提高模型持续学习能力的一步技术探索,而非标志某种“有生命 AI”的到来。
常见问题
Q:“GPT-6 可能是活的”这一说法源自哪里?
A:主要来自社交媒体对 SEAL 论文的二次解读,将模型可持续自我更新类比为“计算意义上的生命”,但属于夸张比喻。
Q:SEAL 框架的核心思想是什么?
A:让模型自己生成训练指令和合成数据,对自身权重进行小步更新,并用强化学习筛选有效的“自编辑”,从而在部署后持续适应新任务。
Q:这是否意味着未来 GPT-6 会真正“活着”?
A:现有研究仅展示了更灵活的持续学习能力,并不能证明模型具备意识或主观体验,“生命”更多是宣传或讨论中的形象说法。
Q:自适应大模型存在哪些风险?
A:可能出现灾难性遗忘、能力漂移、安全与对齐难度增加等问题,需要严格的监控、回滚机制和边界约束。
Q:OpenAI 是否已经宣布在 GPT-6 中采用 SEAL 或类似技术?
A:截至目前,OpenAI 尚未公开 GPT-6 的具体技术路线,也未就是否采用 SEAL 或同类框架发布权威说明。