대규모 언어 모델이 근거로 뒷받침되지 않는 내용을 그럴듯하게 생성하는 이유를 설명하고, 사실 확인과 검색 기반 검증, 사람의 재검토, 고위험 의사결정에서 오류를 막는 방법을 살펴봅니다.
AI 얼라인먼트(AI Alignment)란 사전학습이 끝난 뒤, 거대 언어 모델의 행동을 인간의 의도·가치관·안전 요구사항에 맞추는 훈련·평가 방법 전체를 말한다. 사전학습은 모델에게 '말하는 법'만 가르친다. '제대로 말하는 법'을 가르치는 것이 얼라인먼트다. 얼라인...
AI 이미지 인식이 글자를 잘못 읽는 것은 대부분 모델이 멍청해서가 아니라, 입력한 이미지 유형에 맞는 처리 방식을 쓰지 않았기 때문입니다. 모델을 바꾸기 전에 사진을 사진·스크린샷·스캔본 세 경우로 나누어 각각에 맞는 방법을 쓰세요. 인식 정확도가 바로 크게 올라갑니...
AI 답변이 매번 다른 것은 대부분 완전히 정상적인 현상이며, 기억력이 나빠서가 아닙니다. 진짜 이유는 두 가지뿐입니다. 하나는 모델이 텍스트를 생성할 때 단어를 무작위로 샘플링하기 때문에 같은 질문을 두 번 실행하면 단어 선택 경로가 달라지는 것이 당연하다는 점이고,...
AI가 준 웹 링크가 열리지 않는다면 대부분은 모델이 지어낸 것입니다. 순수 채팅형 AI에게는 실제 URL 데이터베이스가 있는 것이 아니라, 링크는 '그럴듯해 보이는 형식'으로 만들어지기 때문에 해당 페이지가 애초에 존재하지 않았을 수 있습니다. 소수 사례로는 페이지가...
Chain-of-Thought(사고의 연쇄, CoT)는 프롬프트 기법으로, 모델에게 바로 답을 내게 하는 대신 중간 추론 단계를 먼저 쓰게 하고 마지막에 결론을 내게 합니다. 수학 문제를 풀 때 답 숫자부터 내놓는 대신 "미지수 설정→방정식 세우기→풀이" 과정을 먼저 ...
2026년 9월 22일, 독립 AI 벤치마크 기관 Artificial Analysis가 GPT-6 Sol와 GPT-6 Luna에 대한 독립 평가 보고서를 발표했다. 두 모델 출시 이후 처음으로 나온 완전한 제3자 성적표다. 가격은 확실히 절반으로 떨어졌지만, 성능 변화...
"제로 환각" TypeSafe AI는 Jev가 미리 정의된 유형 외의 콘텐츠를 반환하지 않는다는 사실을 의미하며, 이는 모든 비즈니스 판단이 100% 옳다는 의미는 아닙니다. Choice가 옵션 256을 아무렇지 않게 만들지 않고, Score도 무효 평가를 반환하지 않...
2026년 9월 18일, CNN은 여러 출처를 인용해 올해 봄 이란 전쟁 당시 미군 내에서 유통되던 AI 생성 정보 보고서가 중동을 통과하는 중국 선박이 핵무기 프로젝트 관련 부품을 실고 있다고 잘못 판단했고, 미군이 잠시 이를 요격할 준비를 했다고 밝혔다. CNN은 ...
