持续更新模型权重的安全与对齐难度

SEAL 自适应语言模型引热议 被解读为“GPT-6 或将具备计算意义上的生命”

MIT 等机构研究者在 arXiv 发布论文《Self-Adapting Language Models》，提出自适应语言模型框架 SEAL，使大语言模型在部署后可以通过“自编辑”机制持续更新自身权重。部分社交媒体帖子据此猜测，若类似技术被用于未来的 GPT-6，这类系统在计算意义上或将更“像是活的...