온도와 탑-p란 무엇인가요? 왜 AI 답변은 변동이 있을까요?
온도와 Top-p는 모두 모델의 "다음 단어 선택법"을 제어합니다. 간단히 말해, 이들은 답변의 보수성과 차이에 영향을 미칩니다. 온도가 낮을수록 모델은 가장 안정적인 단어를 선택하는 경향이 있습니다; 온도가 높을수록 모델은 다양한 표현식을 실험하는 데 더 많은 용기를...
AI 백과사전 • Admin •
90
대형 모델의 원리
Found 4 related articles
시스템 프롬프트란 무엇인가요? 일반 프롬프트와 어떤 차이가 있나요?
시스템 프롬프트는 "더 높은 수준에 배치된 규칙"으로 이해할 수 있습니다. 이는 일반 사용자가 가볍게 입력하는 프롬프트 문구가 아니라, 대화 전에 존재하며 모델의 역할, 경계, 행동을 정의하는 데 사용되는 기본 지침입니다. 많은 챗봇이 안정적인 스타일을 가진 이유는 필...
AI 백과사전 • Admin •
170
토큰이란 무엇인가요? 왜 AI가 단락을 여러 개의 작은 조각으로 잘라내는 걸까요?
토큰은 모델이 텍스트를 처리할 때 "가장 작은 작업 단위"로 이해할 수 있습니다. 반드시 단어나 구두점이 아니라, 모델 자체가 잘라낸 조각과 같습니다. 영어에서는 단어가 여러 토큰으로 나뉘기도 하고, 중국어에서는 짧은 문장이 여러 토큰으로 나눌 수 있습니다. 이것은 추...
AI 백과사전 • Admin •
68
주의 메커니즘은 무엇인가요? AI가 "핵심에 집중하는 방법"
주의 메커니즘은 단순히 모델이 정보를 처리할 때 "핵심 지점을 보는 법"을 학습한다는 의미입니다. 사람이 단락을 읽을 때 각 단어를 똑같이 바라보지 않으며, 모델도 동일합니다: 과제에 따라 단어나 조각에 다른 가중치를 부여합니다. 가중치가 높은 콘텐츠는 결과에 더 큰 ...
AI 백과사전 • Admin •
70