AI 환각
대규모 언어 모델이 근거로 뒷받침되지 않는 내용을 그럴듯하게 생성하는 이유를 설명하고, 사실 확인과 검색 기반 검증, 사람의 재검토, 고위험 의사결정에서 오류를 막는 방법을 살펴봅니다.
AI 환각은 신뢰할 근거가 부족한데도 모델이 유창하고 구체적이며 때로는 없는 출처까지 포함한 답을 생성하는 현상입니다. 학습 데이터의 공백, 확률적 생성, 충돌하는 문맥, 도구 오류에서 생길 수 있습니다. 자신감 있는 문장을 증거로 보지 말고 근거 연결, 출처의 최신성, 핵심 수치를 확인해야 하며 의료·법률·금융·군사 같은 고위험 업무에는 독립 검증과 책임 있는 사람의 승인이 필요합니다.
