Hallucination
Fait pour une IA générative de produire une information factuellement fausse mais présentée de manière très convaincante.
Une hallucination survient lorsqu’un modèle génératif répond avec assurance en inventant des faits, des citations, des chiffres ou des références. Le point clé n’est pas seulement l’erreur, mais la présentation plausible : le texte “sonne vrai”, ce qui le rend difficile à détecter sans vérification.
Pourquoi cela arrive
Les modèles de langage apprennent à prédire le mot suivant à partir de patterns observés dans leurs données. Ils n’ont pas, par défaut, un accès garanti à une base de vérité. Si une question sort du périmètre couvert, si la formulation est ambiguë, ou si l’utilisateur demande une précision excessive, le modèle peut “combler les trous” en générant une réponse cohérente sur le plan linguistique, mais incorrecte sur le plan factuel.
À quoi ça sert de le savoir
Comprendre ce phénomène aide à concevoir des usages plus sûrs : assistance à la rédaction, brainstorming, génération de code, support client, etc. Dans ces cas, on doit prévoir un contrôle lorsque la factualité est critique (médical, juridique, finance, sécurité).
Exemples courants
- Références bibliographiques inventées (auteurs, DOI, liens).
- Fonctions ou options d’API qui n’existent pas.
- Résumés d’articles jamais publiés ou de décisions de justice inexistantes.
Réduction du risque
Bonnes pratiques : demander les sources, recouper, limiter le périmètre, et utiliser du RAG (recherche + contexte) ou des garde-fous (validation, tests, règles).