모델 자가 편집이 통제 불능이 되는 것을 방지하는 메커니즘 설계 방법

SEAL 적응형 언어 모델은 뜨거운 논쟁을 불러일으켰으며, "GPT-6가 컴퓨팅 분야에서 생명력을 가질 수도 있다"는 해석을 받았습니다

MIT 및 기타 기관의 연구진은 arXiv에 "Self-adapting Language Models"라는 논문을 발표하며, 배포 후 대규모 언어 모델이 "자기 편집" 메커니즘을 통해 가중치를 지속적으로 업데이트할 수 있도록 하는 적응형 언어 모델 프레임워크 SEAL을 ...