KI-Halluzinationen
Erklärt, warum große Sprachmodelle überzeugend klingende Aussagen ohne belastbare Belege erzeugen können, und untersucht Faktenprüfung, Retrieval-Grounding, menschliche Kontrolle sowie Schutzmaßnahmen für folgenschwere Entscheidungen.
KI-Halluzinationen entstehen, wenn ein Modell flüssige und konkrete Aussagen ohne verlässliche Belege liefert. Ursachen sind Lücken in Trainingsdaten, probabilistische Generierung, widersprüchlicher Kontext oder fehlerhafte Werkzeuge. Selbstsichere Formulierungen sind kein Nachweis: Belegkette, Quellenalter und kritische Zahlen müssen geprüft werden. In Medizin, Recht, Finanzen und Militär bleiben unabhängige Verifikation und menschliche Freigabe Pflicht.
