API 청구

추론 토큰이란 무엇인가요? 추론 비용을 고려할 때 많은 팀에게 새로운 지표가 된 이유

추론 토큰은 모델이 최종 답변을 내기 전에 내부 추론을 완성하기 위해 사용하는 토큰의 일부로 이해할 수 있습니다. 입력 및 출력 토큰과 정확히 같지는 않은데, 많은 추론 과정이 사용자에게 완전히 표시되지 않기 때문입니다. 하지만 여전히 맥락 공간을 차지하고 지연 시간,...