AIハルシネーション
大規模言語モデルが、根拠で裏づけられないのにもっともらしい内容を生成する理由を解説し、事実確認、検索による根拠付け、人による再確認、高リスク判断での誤り防止策を追います。
AIハルシネーションとは、信頼できる根拠がないまま、モデルが流暢で具体的、ときには架空の出典まで含む回答を生成する現象です。学習データの不足、確率的な生成、文脈の衝突、ツール出力の異常などから起こります。自信のある表現を証拠とみなさず、根拠の連鎖、情報の鮮度、重要な数値を確認し、医療、法律、金融、軍事などの高リスク業務では独立検証と責任ある人の承認を組み込む必要があります。
