추론-시간 계산이란 무엇인가요? 왜 모두가 추론 모델 시대에 '잠시 생각하라'의 가치를 다시 계산하기 시작했을까요?
Inference-Time Compute는 훈련에 얼마나 많은 컴퓨팅 파워를 쓰는지가 아니라, 모델이 실제로 사용자 질문에 답할 때 생각하고, 시도하고, 선별하는 데 얼마나 많은 추가 컴퓨팅을 투자하느냐에 관한 것입니다. 이 용어가 최근 뜨거운 이유는 추론 모델이 오래...
AI 백과사전 • Admin •
92
이유
Found 3 related articles
테스트 시간 스케일링이란 무엇인가요? 왜 모델이 "조금 더 오래 생각한 후" 갑자기 강해지는 걸까요?
테스트 시간 확장은 모델이 실제로 질문에 답할 때 더 많은 추론 예산, 더 많은 시도 또는 사고 공간을 부여하는 것으로 이해할 수 있으며, 그 대가로 더 나은 결과를 얻습니다. 이 방법이 인기가 많은 이유는 많은 사람들이 모델의 능력이 훈련 시점의 크기뿐만 아니라 "순...
AI 백과사전 • Admin •
98
RLVR이란 무엇인가요? 왜 인추론 모델이 인기를 끌었을 때 RLHF보다 더 자주 언급되나요?
RLVR은 일반적으로 검증 가능한 보상을 가진 강화 학습(Reinforcement Learning with Verifiable Rewards)을 의미합니다. 핵심 이유는 RLHF가 실패했기 때문이 아니라, 추론 모델의 등장으로 많은 과제가 인간의 선호에만 의존하지 않고...
AI 백과사전 • Admin •
213