추론 매개변수

온도와 탑-p란 무엇인가요? 왜 AI 답변은 변동이 있을까요?

온도와 Top-p는 모두 모델의 "다음 단어 선택법"을 제어합니다. 간단히 말해, 이들은 답변의 보수성과 차이에 영향을 미칩니다. 온도가 낮을수록 모델은 가장 안정적인 단어를 선택하는 경향이 있습니다; 온도가 높을수록 모델은 다양한 표현식을 실험하는 데 더 많은 용기를...