왜 같은 프롬프트 결과가 매번 다를까요? 무작위성, 맥락, 도구 반환을 구분하는 것부터 시작하세요
같은 프롬프트 결과가 매번 다르며, 보통 모델 '펌핑'이 아니라 세 가지 변수를 동시에 넣습니다: 모델 자체의 무작위 샘플링, 대화 기록에 따른 문맥 이동, 그리고 매번 다를 수 있는 외부 도구나 검색 결과. 프롬프트 자체에만 집중하면 문제를 오판할 수 있습니다. 먼저...
AI Q&A • Admin •
101
Found 2 related articles
같은 프롬프트 결과가 매번 다르며, 보통 모델 '펌핑'이 아니라 세 가지 변수를 동시에 넣습니다: 모델 자체의 무작위 샘플링, 대화 기록에 따른 문맥 이동, 그리고 매번 다를 수 있는 외부 도구나 검색 결과. 프롬프트 자체에만 집중하면 문제를 오판할 수 있습니다. 먼저...
온도와 Top-p는 모두 모델의 "다음 단어 선택법"을 제어합니다. 간단히 말해, 이들은 답변의 보수성과 차이에 영향을 미칩니다. 온도가 낮을수록 모델은 가장 안정적인 단어를 선택하는 경향이 있습니다; 온도가 높을수록 모델은 다양한 표현식을 실험하는 데 더 많은 용기를...