Pourquoi une IA invente-t-elle des réponses ?
Un exemple d'invention crédible
« Le croissant a été inventé à Lyon en 1847 par le pâtissier Jean-Baptiste Morel. » Tout sonne juste : une date, un nom, une ville. Pourtant ce pâtissier n'existe pas. C'est exactement la forme que prennent les hallucinations : des détails précis, sur un sujet peu documenté, sans source.
Pourquoi ça arrive
Pendant l'entraînement, l'IA a appris à toujours compléter le texte : « je ne sais pas » n'était presque jamais la suite attendue. Par ailleurs, les connaissances ne sont pas rangées comme dans une base de données, mais diluées dans les poids du modèle. Les faits très répandus sont solides ; les faits rares sont flous, et l'IA comble les trous avec du vraisemblable. Elle n'a aucune intention de tromper.
Testez-vous : la station « Inventer »
Les bons réflexes
Méfiez-vous des détails très précis sur des sujets pointus. Demandez les sources, puis ouvrez-les. Pour la santé, le droit ou l'argent, vérifiez auprès d'une source officielle ou d'un professionnel. Demander « tu es sûr ? » aide un peu, mais une IA peut confirmer son erreur avec le même aplomb.
Ce qui s'améliore
La recherche web et la citation des sources réduisent fortement le problème, sans le supprimer. Les modèles récents sont aussi entraînés à exprimer leurs doutes et à dire plus souvent qu'ils ne savent pas.
Questions fréquentes
Les IA récentes hallucinent-elles encore ?
Moins qu'avant, mais oui. Le risque augmente sur les sujets rares, les chiffres précis, les citations et les références bibliographiques.
Une IA ment-elle quand elle hallucine ?
Non, elle n'a pas d'intention de tromper. Elle produit ce qui lui paraît le plus plausible, même quand c'est faux.
Le jeu complet, selon votre niveau :