Accueil › Le guide › Inventer

Pourquoi une IA invente-t-elle des réponses ?

La réponse courteUne IA prédit le mot le plus plausible, pas le mot vrai. Quand elle connaît mal un sujet, elle peut fabriquer une réponse qui a l'air parfaite : une date, un nom, une source inventés. C'est une hallucination. Le bon réflexe : vérifier toute information importante auprès d'une source fiable.

Un exemple d'invention crédible

« Le croissant a été inventé à Lyon en 1847 par le pâtissier Jean-Baptiste Morel. » Tout sonne juste : une date, un nom, une ville. Pourtant ce pâtissier n'existe pas. C'est exactement la forme que prennent les hallucinations : des détails précis, sur un sujet peu documenté, sans source.

Pourquoi ça arrive

Pendant l'entraînement, l'IA a appris à toujours compléter le texte : « je ne sais pas » n'était presque jamais la suite attendue. Par ailleurs, les connaissances ne sont pas rangées comme dans une base de données, mais diluées dans les poids du modèle. Les faits très répandus sont solides ; les faits rares sont flous, et l'IA comble les trous avec du vraisemblable. Elle n'a aucune intention de tromper.

Testez-vous : la station « Inventer »

Score 0

Les bons réflexes

Méfiez-vous des détails très précis sur des sujets pointus. Demandez les sources, puis ouvrez-les. Pour la santé, le droit ou l'argent, vérifiez auprès d'une source officielle ou d'un professionnel. Demander « tu es sûr ? » aide un peu, mais une IA peut confirmer son erreur avec le même aplomb.

Ce qui s'améliore

La recherche web et la citation des sources réduisent fortement le problème, sans le supprimer. Les modèles récents sont aussi entraînés à exprimer leurs doutes et à dire plus souvent qu'ils ne savent pas.

Questions fréquentes

Les IA récentes hallucinent-elles encore ?

Moins qu'avant, mais oui. Le risque augmente sur les sujets rares, les chiffres précis, les citations et les références bibliographiques.

Une IA ment-elle quand elle hallucine ?

Non, elle n'a pas d'intention de tromper. Elle produit ce qui lui paraît le plus plausible, même quand c'est faux.

Le jeu complet, selon votre niveau :