Hallucination (IA)
Aussi appelé : confabulation, hallucination d'IA
Une hallucination désigne, en intelligence artificielle, une réponse fausse ou inventée qu'un modèle de langage produit avec assurance, comme s'il s'agissait d'un fait établi. Le modèle ne ment pas au sens humain : il génère la suite de mots la plus plausible selon ce qu'il a appris, sans vérifier sa véracité.
Ce phénomène découle du fonctionnement même des LLM, qui prédisent des mots probables plutôt que de consulter une base de faits. Il est plus fréquent sur des sujets pointus, récents ou absents des données d'entraînement, et sur des questions formulées de façon ambiguë.
Plusieurs garde-fous limitent les hallucinations : ancrer les réponses sur des sources via le RAG, demander au modèle de citer ses sources, et maintenir une validation humaine sur les usages sensibles. Aucune méthode ne les élimine totalement à ce jour.