Plausible, pas forcément vrai
Une IA générative ne cherche pas la vérité : elle produit la suite de texte la plus plausible. Elle n'a pas de vérificateur intégré. Quand l'information lui manque, elle peut produire une réponse fausse mais parfaitement rédigée : c'est une hallucination. Une citation inventée, un chiffre trop précis, un article de loi ou une étude qui n'existe pas.
Pourquoi ce penchant ? Des chercheurs d'OpenAI l'ont expliqué en septembre 2025 : l'entraînement et les évaluations récompensent la réponse tentée plutôt que l'aveu d'ignorance. Comme un élève devant un QCM, le modèle a intérêt à deviner.
Source : Kalai et al., « Why Language Models Hallucinate », OpenAI, septembre 2025.
Repérer et limiter
Quatre signaux doivent alerter : un chiffre très précis sans source, une référence (article, étude, lien) que vous n'avez pas ouverte, une réponse qui confirme un peu trop votre idée de départ, et un sujet récent ou très spécialisé.
Quatre parades réduisent fortement le risque : donner à l'IA le document qui contient la réponse, l'autoriser clairement à dire « je ne sais pas », lui demander ses sources et les ouvrir, et vérifier soi-même tout chiffre ou toute référence qui compte.
Une réponse fluide n'est pas une réponse vérifiée.
Risque élevé ou faible ?
Glissez chaque carte dans la bonne zone : le risque d'hallucination est-il élevé ou faible ?
Félicitations, formation terminée
Vous savez pourquoi une IA invente, comment repérer une hallucination et comment la limiter. Prochaine étape : vérifier vos contenus avec le skill Discerner.