소수 샷 학습은 대형 모델에 예시 몇 개만 보여주면 그 형식과 기준에 맞춰 새 작업을 수행하게 하는 활용법이다. 모델을 다시 훈련할 필요가 없으며, 질문할 때 입력과 원하는 출력 쌍을 두세 개 먼저 제시하면 모델이 그 안에서 규칙을 파악해 새 내용에도 같은 방식을 적용한다. 이는 모델이 사전 훈련 단계에서 이미 언어와 작업 이해 능력을 갖추었기 때문에 가능하며, 예시는 원리를 강의하는 것보다 현장에서 직접 보여주는 시범에 가깝다.
제로 샷, 원 샷과의 차이
세 용어의 차이는 예시를 몇 개 주느냐뿐이다. 제로 샷은 요구만 말하고 예시를 전혀 주지 않는 방식으로, 번역이나 요약처럼 모델이 익숙한 작업에 적합하다. 원 샷은 완성된 시범 하나를 보여줘 출력의 모습을 먼저 파악하게 한다. 소수 샷은 보통 두 개에서 다섯 개 정도의 예시를 말하며, 작업이 생소할수록, 형식 요구가 까다로울수록 효과가 크다. 판단 기준은 단순하다. 첫 답변이 엇나가는 경우 대개 능력 부족이 아니라 원하는 형태를 모르기 때문이며, 이때는 표현을 고치는 것보다 예시를 보태는 편이 더 잘 먹힌다.
설명보다 예시가 잘 통하는 이유
프롬프트에 규칙을 길게 적어도 답이 빗나가는 이유는 규칙은 추상적이고 예시는 구체적이기 때문이다. 같은 분류 작업이라도 판단 기준을 열 문장 나열하는 것보다 이미 분류된 샘플 세 개를 보여주는 편이 잘 전달된다. 예시는 입력 형식, 출력 길이, 어조, 경계 상황을 동시에 보여줘 모델이 항목별로 대조할 수 있게 하기 때문이다. 다만 양보다 질이 중요하다. 예시끼리 서로 모순되거나 쉬운 경우만 담고 있으면 모델은 잘못된 규칙까지 충실히 배워버린다. 헷갈리기 쉬운 상황을 골고루 담고 출력 형식을 완전히 통일해 고르는 것이 중요하다.
미세 조정과는 다른 개념
소수 샷 학습은 훈련의 일종으로 오해받기 쉽지만, 모델의 매개변수는 전혀 바뀌지 않는다. 예시는 해당 대화의 맥락 안에만 존재하며, 대화가 끝나거나 맥락이 지워지면 시범 효과도 사라진다. 미세 조정은 데이터로 가중치 자체를 갱신하므로 효과가 오래가지만, 데이터 준비와 연산 자원, 평가 과정이 필요하다. 선택 기준은 분명하다. 임시 작업이거나 규칙이 자주 바뀌거나 효과를 빠르게 시험하고 싶다면 소수 샷을, 장기적으로 고정되고 호출량이 많으며 안정성이 중요한 작업이라면 그때 미세 조정을 검토할 만하다. 예시가 많을수록 좋다는 생각도 바로잡을 필요가 있다. 예시는 맥락을 차지하므로 너무 많이 넣으면 정작 처리해야 할 내용의 자리를 빼앗는다. 좋은 예시 서너 개에서 다섯 개면 대개 충분하다.
