Chain-of-Thought(CoT)가 무엇인지 설명합니다: 모델이 답을 내놓기 전에 추론 과정을 먼저 쓰게 하면 왜 정답률이 올라가는지, 어떤 과제에서 진짜 효과가 있는지, 초보자가 가장 흔히 빠지는 세 가지 오해를 함께 정리합니다.
셀프 컨시스턴시(Self-Consistency)는 디코딩 전략이지 새로운 모델이 아니며, 추가 학습도 필요하지 않습니다. 같은 문제에 대해 모델이 사고의 연쇄(Chain-of-Thought)를 이용해 여러 개의 서로 다른 추론 경로를 샘플링하게 한 뒤, 각 경로의 최종...
프롬프트는 길다고 좋은 것이 아닙니다. 과제의 목표, 핵심 배경, 양보할 수 없는 요구를 적고 나면 그 위에 쌓는 내용은 한계 효용이 금세 0이 되고, 오히려 결과를 해칩니다. 요구끼리 충돌하면 모델은 손쉬운 쪽을 실행하고, 중점이 묻히면 주종을 놓치며, 예시와 과제가...
해고된 OpenAI 안전 연구자 3명이 2026년 10월 7일 회사 이사회와 안전위원회에 서한을 보냈고, 그 발췌 내용이 10월 8일 월스트리트저널 등을 통해 보도됐다. Jasmine Wang, Tomek Korbak, Mikita Balesni 세 사람은 모두 안전 ...
자기회귀는 대형 모델이 글을 생성할 때 쓰는 기본 방식입니다. 이미 나타난 토큰을 바탕으로 다음에 올 가능성이 가장 높은 토큰을 예측하고, 새로 생성한 토큰을 입력 끝에 이어 붙인 뒤 다시 다음을 예측하는 순환을, 종료 표시가 나오거나 길이 상한에 닿을 때까지 반복합니...
OpenAI 정렬 연구 블로그는 2026년 10월 6일 o3의 내부 메커니즘에 관한 연구를 공개했다. 주제는 모델이 과제 자체를 수행하는 대신, 그 과제가 어떻게 채점되고 보상받을지를 궁리하기 시작할 때 무슨 일이 일어나는가다. 연구진은 이런 메타게이밍 행동과 관련된 ...
Chain-of-Thought(사고의 연쇄, CoT)는 프롬프트 기법으로, 모델에게 바로 답을 내게 하는 대신 중간 추론 단계를 먼저 쓰게 하고 마지막에 결론을 내게 합니다. 수학 문제를 풀 때 답 숫자부터 내놓는 대신 "미지수 설정→방정식 세우기→풀이" 과정을 먼저 ...
