대규모 언어 모델이 근거로 뒷받침되지 않는 내용을 그럴듯하게 생성하는 이유를 설명하고, 사실 확인과 검색 기반 검증, 사람의 재검토, 고위험 의사결정에서 오류를 막는 방법을 살펴봅니다.
AI 택배 조회에서 운송장 번호를 찾을 수 없다고 계속 나온다고 해서 바로 분실로 단정하지 마세요. 대부분 분실이 아니라 운송장 번호, 택배사, 조회 시점 중 하나가 맞지 않기 때문입니다. 아래 순서대로 확인하면 5분 안에 문제를 찾을 수 있고, 그래도 안 나올 때의 ...
AI 문제 풀이 답을 그대로 베껴서는 안 됩니다. 답은 맞지만 과정이 틀리면 시험에서 감점되고, 답이 틀리면 베낀 것이 오답이 됩니다. 올바른 방법은 먼저 풀이 과정을 쓰게 한 뒤 핵심 단계를 확인하는 것입니다. 1단계: 근거와 함께 단계별로 쓰게 하기 '답이 뭐야'라...
AI가 추천한 식당을 검색해도 찾을 수 없다면 바로 가지 마세요. AI는 식당 이름을 지어내거나 이미 문 닫은 식당을 영업 중인 것처럼 말하거나 지점 정보를 뒤섞기도 합니다. 출발 전에 3분만 확인하면 헛걸음을 줄일 수 있습니다. 1단계: 다른 플랫폼에서 식당 이름과 ...
보상 모델은 AI 답변에 점수를 매기는 심판과 같다. 직접 질문에 답하지 않고 모델이 내놓은 답변의 우열을 가려 어떤 답변이 배울 만한지 알려준다. 학습 단계에서는 사람이 같은 질문에 대한 여러 답변에 순위를 매기고, 보상 모델은 그 선호를 학습한다. 이후에는 수천 개...
AI와 대화가 주제에서 벗어나기 시작하면 서둘러 처음부터 다시 하지 마세요. 같은 대화 안에서 목표, 이미 확인된 결론, 바뀌면 안 되는 요구를 다시 고정하면 대부분의 이탈은 되돌릴 수 있습니다. 원인은 모델이 갑자기 둔해진 게 아니라, 대화가 길어질수록 초반에 정한 ...
2026년 10월 20일부터 생성형 AI는 오스트레일리아 공정근로위원회(Fair Work Commission, 이하 위원회) 사건에서 더 이상 몰래 도울 수 없다. ChatGPT, Claude, Copilot, Gemini 같은 도구로 신청서, 주장 서면, 증인 진술서...
AI가 틀렸다고 지적해도 우길 때, 대개는 태도의 문제가 아닙니다. 모델에게는 자기가 틀렸음을 확인하는 스위치가 없고, 대화를 가장 그럴듯하게 이어 갈 뿐이라 여러분의 반박도 새 맥락으로 읽힐 뿐입니다. 그러니 같은 대화 안에서 다투지 마세요. 다툴수록 그 자리에서 새...
AI가 날짜를 틀리는 것은 오늘 날짜를 몰라서가 아닌 경우가 많습니다. 원인은 세 가지가 섞여 있습니다. 오프라인이면 학습 데이터 속 시간 감각으로 답하고, 시간대가 다르면 다른 곳의 날짜를 기본값으로 삼으며, '3주 뒤 금요일은 며칠인가' 같은 계산에서는 달력을 보지...
