Hallucination d'une IA : définition et parades

Le mot hallucination désigne l’erreur la plus déroutante de l’intelligence artificielle (IA) générative : celle qui ne se voit pas. Une référence inventée a exactement la même allure qu’une référence exacte, et le ton reste aussi assuré. Comprendre d’où viennent ces erreurs permet de choisir la bonne parade, sans renoncer à l’outil ni lui accorder une confiance aveugle.

Qu’est-ce qu’une hallucination d’IA ?

Une hallucination d’IA est un contenu produit par un modèle génératif, présenté comme exact, qui n’est fondé ni sur les faits, ni sur les documents fournis.

On en distingue deux familles. La première contredit la réalité : une date fausse, un fait attribué à la mauvaise personne, un texte de loi qui n’existe pas. La seconde trahit un document que vous avez fourni : le résumé d’un contrat mentionne une clause absente, ou inverse le sens d’une condition.

Le mot est une image, et elle est imparfaite : le modèle ne perçoit rien, il produit un texte vraisemblable. Certains chercheurs préfèrent parler de confabulation, mais « hallucination » s’est imposé dans l’usage. C’est donc sous ce nom qu’il figure dans le glossaire de l’IA, au même titre que le prompt ou le grand modèle de langage.

Pourquoi une IA hallucine-t-elle ?

Une IA hallucine parce qu’un grand modèle de langage produit la suite de texte la plus plausible, et que rien dans ce mécanisme ne vérifie que cette suite est vraie.

Pendant son entraînement, le modèle a surtout appris à quoi ressemble une bonne réponse. Face à une question, il assemble une réponse qui a la forme attendue. Si l’information est bien présente dans ses données, cette réponse est souvent juste. Si elle est rare, absente ou postérieure à la fin de ses données, la forme reste là et le contenu peut être comblé par du vraisemblable.

Certaines situations favorisent ces erreurs :

• une question sur un sujet pointu ou peu documenté, comme une réglementation sectorielle ou une petite entreprise ;
• une demande de références précises (titres, auteurs, numéros, liens) sans document fourni ;
• une question qui présuppose un fait faux, que le modèle risque de prolonger au lieu de le corriger ;
• un document très long, dont un détail peut être mal repris ;
• un calcul en plusieurs étapes fait « de tête », sans outil de calcul.

Une consigne vague aggrave le tout : moins le prompt apporte de matière, plus le modèle doit deviner.

Quelles formes prennent les hallucinations ?

Les hallucinations prennent souvent la forme de références, de chiffres, de citations, de calculs ou de décisions de justice inventés, tous présentés avec assurance.

Des références qui n’existent pas

Le modèle cite un article, un livre ou un rapport avec un titre, un auteur et une année crédibles, mais le document est introuvable. Un lien vers une page web peut aussi être inventé, ou mener à une page qui ne dit pas ce qu’on lui attribue.

Des chiffres erronés

Une statistique, un montant, un pourcentage ou une date peuvent être inventés ou déformés. Le danger vient de ce qu’un chiffre précis donne une impression de sérieux.

Des citations attribuées à tort

Le modèle peut prêter à une personne réelle une phrase qu’elle n’a jamais prononcée, dans un style qui lui ressemble. C’est d’autant plus trompeur que la phrase sonne juste.

Des calculs faux

Un total, une moyenne ou une évolution en pourcentage peuvent être faux, alors que le raisonnement affiché semble cohérent. Certaines applications confient les calculs à un outil dédié, ce qui limite ce risque sans dispenser de contrôler les données de départ.

Des décisions de justice inventées

En matière juridique, un modèle peut produire une décision de justice avec une juridiction, une date et un numéro plausibles, alors qu’elle n’a jamais été rendue. Des professionnels du droit ont déjà cité ce type de référence dans des procédures, ce qui montre que la vraisemblance trompe aussi les spécialistes.

Comment limiter les hallucinations ?

On limite les hallucinations en donnant au modèle les sources à utiliser, en exigeant qu’il cite ses passages et en vérifiant le résultat à proportion de l’enjeu.

Fournir les documents sources

Plutôt que de demander à l’outil ce qu’il sait d’un sujet, donnez-lui le document qui fait foi : le contrat, la fiche technique, la procédure interne. Précisez qu’il doit répondre uniquement à partir de ce document, et dire clairement quand la réponse n’y figure pas.

Exiger les passages cités

Demandez que chaque affirmation importante soit accompagnée du passage exact dont elle provient. La vérification devient rapide : soit le passage existe et dit bien cela, soit l’affirmation tombe. Un passage cité peut lui-même être inventé, mais c’est justement ce que la vérification révèle très vite.

Vérifier à proportion du risque

Tout ne mérite pas le même contrôle. Un brouillon de mail interne se relit rapidement, alors qu’un chiffre publié, une clause contractuelle ou une réponse réglementaire se vérifient à la source, par une personne compétente.

Limiter l’outil à des documents choisis

Pour un usage répété, comme un assistant qui répond aux questions des salariés sur les procédures internes, l’outil peut être configuré pour répondre à partir d’une base documentaire définie. Le risque baisse, sans disparaître : l’outil peut encore mal lire ou mal combiner les passages retrouvés.

Risque et parade : le tableau de synthèse

Le bon niveau de parade dépend de ce que coûterait une erreur, pas de la difficulté de la tâche.

Faut-il renoncer à l’IA générative à cause des hallucinations ?

Les hallucinations ne sont pas une raison de renoncer à l’IA générative, mais une raison de fixer des règles simples de vérification, à la portée d’une petite ou moyenne entreprise (PME).

La première règle consiste à décider, pour chaque type d’usage, qui vérifie quoi. La seconde est de ne jamais laisser partir un chiffre, une référence ou un engagement produit par l’outil sans contrôle. Pour vos clients, une erreur envoyée par votre entreprise reste une erreur de votre entreprise, quel que soit l’outil qui l’a écrite.

Méfiez-vous aussi des promesses de fiabilité totale : les techniques actuelles réduisent le risque, aucune ne le supprime. Savoir reconnaître une hallucination fait partie de la littératie IA dans une PME, au même titre que savoir quelles données peuvent aller dans l’outil.

À retenir

• Une hallucination d’IA est une information fausse ou inventée, présentée par un modèle génératif avec la même assurance qu’une information exacte.
• Elle vient du mécanisme même des modèles de langage, qui produisent la suite la plus plausible sans vérifier les faits.
• Les formes typiques sont les références introuvables, les chiffres erronés, les citations inventées, les calculs faux et les décisions de justice fictives.
• Fournir les documents sources et exiger les passages cités rend les erreurs faciles à repérer.
• Le niveau de vérification doit suivre l’enjeu : relecture rapide pour un brouillon, contrôle à la source pour un chiffre ou un engagement.