대규모 언어 모델이 근거로 뒷받침되지 않는 내용을 그럴듯하게 생성하는 이유를 설명하고, 사실 확인과 검색 기반 검증, 사람의 재검토, 고위험 의사결정에서 오류를 막는 방법을 살펴봅니다.
AI 데이터 합계가 항상 틀리는 이유는 부주의해서가 아니라 애초에 계산기가 아니기 때문이다. 대규모 언어 모델은 토큰 단위로 텍스트를 생성하며 다음 단어를 예측해 답을 만들어낼 뿐, 실제로 연산을 수행하지 않는다. 자릿수가 많은 덧셈, 뺄셈, 곱셈, 나눗셈에서는 올림이...
AI가 준 참고문헌이 데이터베이스에서 검색되지 않는다면, 내가 잘못 찾은 것이 아니라 AI가 지어냈을 가능성이 큽니다. 저자, 학술지명, 연도, 권호까지 그럴듯한데 그 논문만 존재하지 않는 경우입니다. 이는 대형 모델의 가장 전형적인 환각 장면 중 하나로, 모델의 일은...
Perplexity는 2026년 10월 9일 무료 백과사전 Alexandria를 공개했다. 구축한 주체는 자사의 에이전트 시스템 Computer이며, 이후 유지 관리도 Computer가 맡는다. CEO Aravind Srinivas는 발표에서 구체적인 숫자를 제시했다....
Excel 수식을 AI에게 써 달라고 하면 붙여 넣자마자 오류가 나는 경우가 많은데, 대개 AI가 계산을 틀린 것이 아닙니다. 사용 중인 Excel 버전, 언어 환경, 표 안의 데이터 형식이 AI가 가정한 방식과 맞지 않는 것입니다. 다시 써 달라고 하기 전에 아래 네...
Claude가 짜 준 등산 경로가 16세 소년을 등반 장비가 필요한 절벽으로 이끌었다. 2026년 10월 3~4일, 이 소년은 캐나다 브리티시컬럼비아주 크라운마운틴에서 고립됐다가 노스쇼어 구조대(North Shore Rescue)의 헬리콥터 인양으로 구조됐다. 아웃도어...
AI 회의 요약이 자꾸 인명을 틀리는 것은 대개 요약 단계가 둔해서가 아닙니다. 오류는 훨씬 앞 단계에서 심어집니다. 전사에서 인명이 잘못 들리고, 화자 분리에서 발언이 다른 사람에게 붙고, 마지막에 요약이 그 오류를 사실로 회의록에 써 넣는 것입니다. 점검은 이 사슬...
캘리포니아 SB 574의 변호사 AI 새 규정이 법이 됐다. 2026년 9월 30일 Gavin Newsom 주지사가 이 법안(2026년 제정법 제858장)에 서명했고, 2027년 1월 1일부터 시행된다. 이로써 캘리포니아는 변호사의 생성형 AI 사용을 성문법으로 전문적...
구글의 오픈소스 버그 바운티가 먼저 무너졌다. 2026년 10월 1일부터 구글은 오픈소스 소프트웨어 취약점 보상 프로그램(OSS VRP)의 제품 취약점 보고서 접수를 중단했다. 자동 제출이 크게 늘었고 그 대부분이 유효하지 않았기 때문이다. 구글은 소셜미디어와 프로그램...
