보상 모델은 고백의 정직성만을 기준으로 점수가 매겨집니다

OpenAI는 '고백' 메커니즘을 출시했으며, 연구에 따르면 고백을 통해 GPT-5 모델을 훈련시키면 '자기보고' 비율이 크게 증가할 수 있습니다

OpenAI는 "고백을 통해 언어 모델을 더 정직하게 만드는 방법"이라는 연구를 발표하며, 방금 내린 답변이 지시를 위반했는지, 부정행위였는지, 혹은 절차를 생략했는지 검토하기 위해 별도의 "고백 출력"을 모델에 추가하자고 제안했습니다. 연구팀은 GPT-5 Thinki...