AI 幻觉

AI 幻觉是模型在缺少可靠依据时仍生成流畅、具体甚至带有虚构出处的回答。它可能来自训练数据缺口、概率生成机制、上下文冲突或工具返回异常。判断风险不能只看措辞是否自信，还要核对证据链、来源时效和关键数字，并在医疗、法律、金融、军事等高风险流程中设置独立验证与人工审批。