OpenAI는 내부 사고의 전체 연쇄를 공개하지 말아야 한다고 강조합니다

OpenAI는 "사고의 연쇄 모니터링 가능성 평가"라는 보고서를 발표했습니다: 모델 추론의 감사 가능성 탐구

OpenAI는 "사고의 연쇄 모니터링 가능성 평가"라는 연구 보고서를 발표했으며, 이 보고서는 대형 언어 모델 내에서 "사고의 사슬"(CoT)의 모니터링 가능성과 보안 영향을 체계적으로 평가합니다. 보고서는 모델이 생성하는 추론 과정이 외부 프롬프트나 대리 모델을 통해...