Hallucinations de l'IA
Explique pourquoi les grands modèles de langage peuvent produire des affirmations convaincantes sans preuves solides, puis examine la vérification des faits, l'ancrage par recherche, la relecture humaine et les garde-fous nécessaires aux décisions à fort enjeu.
Une hallucination d'IA apparaît lorsqu'un modèle produit des affirmations précises et parfois inventées sans preuve fiable. Elle peut venir de lacunes dans les données d'entraînement, de la génération probabiliste, d'un contexte contradictoire ou d'un outil défectueux. Un ton assuré ne vaut pas preuve : il faut contrôler les sources, leur fraîcheur et les chiffres critiques. En médecine, droit, finance et défense, vérification indépendante et validation humaine restent indispensables.
