Un chatbot qui promet un remboursement inexistant. Un rapport de conseil truffé de références fabriquées. Un mémoire juridique qui cite des affaires qui n'ont jamais existé. Les hallucinations d'IA ne sont pas des anecdotes de laboratoire : elles produisent déjà des jugements, des remboursements et des sanctions.
Cet article explique ce qu'est une hallucination d'IA, pourquoi elle se produit (la recherche récente est très claire sur la mécanique), ce qu'elle coûte quand personne ne la rattrape, et surtout comment une entreprise s'en protège concrètement. Sans promettre de la faire disparaître : ce serait, précisément, une hallucination.
Qu'est-ce qu'une hallucination d'IA ?
Une hallucination d'IA est un contenu faux, inventé ou trompeur qu'un modèle d'intelligence artificielle génère et présente avec assurance comme un fait. Le modèle ne ment pas : il prédit la suite de texte la plus probable d'après ses données d'entraînement, sans mécanisme interne pour distinguer le vrai du faux.
Le terme officiel en français est "hallucination d'IA", défini par l'Office québécois de la langue française comme un contenu incorrect, inopportun ou fictif généré par un modèle d'IA et présenté de manière factuelle.
Le mot est trompeur : le modèle ne voit rien qui n'existe pas, il fabrique une réponse plausible. Et c'est là tout le danger : une hallucination ressemble à s'y méprendre à une bonne réponse. Même ton, même aplomb, même mise en forme.
| Type d'hallucination | Ce que le modèle produit | Exemple typique |
|---|---|---|
| Erreur factuelle | Un fait inexact énoncé comme certain | Une date, un prix ou un chiffre inventé |
| Source fabriquée | Une référence qui n'existe pas | Article de recherche, jurisprudence, URL inventés |
| Fausse citation | Des propos jamais tenus, attribués à une personne réelle | Une citation de juge ou d'expert fabriquée |
| Réponse hors politique | Une règle interne inventée | Un chatbot qui promet un remboursement non prévu |
| Erreur en cascade | Une invention reprise comme fait par l'étape suivante | Un agent IA qui agit sur le chiffre inventé d'un autre agent |
Pourquoi l'IA hallucine-t-elle ?
L'IA hallucine pour deux raisons mécaniques : elle apprend en prédisant le mot suivant sans étiquette vrai/faux, et son entraînement récompense la réponse tentée plutôt que l'aveu d'ignorance. C'est la conclusion de la recherche publiée par OpenAI en septembre 2025 (Why Language Models Hallucinate, arXiv). Rien de mystérieux : une conséquence statistique de la façon dont on fabrique ces modèles.
La prédiction du mot suivant ne connaît pas le vrai
Un grand modèle de langage apprend sur d'immenses corpus de texte, sans qu'aucune phrase ne porte d'étiquette "vrai" ou "faux". Il n'y voit que des exemples de langage fluide, jamais de contre-exemples.
Les chercheurs utilisent une analogie parlante : l'orthographe et la ponctuation suivent des règles régulières, donc les erreurs disparaissent avec l'échelle. Mais un fait rare et arbitraire, comme la date d'anniversaire d'un animal de compagnie, ne suit aucune règle. Impossible de le déduire d'un motif statistique. Face à ce type de question, le modèle produit une réponse plausible : une hallucination.
L'examen note le bluff mieux que l'aveu
Deuxième mécanique : la plupart des évaluations de modèles ne notent que l'exactitude. Comme dans un QCM sans points négatifs, tenter une réponse au hasard peut rapporter des points, répondre "je ne sais pas" en rapporte zéro à coup sûr. Sur des milliers de questions, le modèle qui bluffe grimpe au classement, le modèle prudent recule.
Les chiffres publiés par OpenAI sur son propre test SimpleQA illustrent l'arbitrage. Un modèle réglé pour la prudence s'abstient sur 52 pour cent des questions et ne se trompe que dans 26 pour cent des cas. Un modèle plus ancien, réglé pour répondre coûte que coûte, ne s'abstient presque jamais et se trompe dans 75 pour cent des cas, pour une exactitude quasi identique (24 contre 22 pour cent).
| Comportement du modèle | Abstention | Bonnes réponses | Erreurs (hallucinations) |
|---|---|---|---|
| Prudent (s'abstient quand il doute) | 52 % | 22 % | 26 % |
| Joueur (répond toujours) | 1 % | 24 % | 75 % |
La conclusion importante pour une entreprise : l'hallucination n'est pas une fatalité technique. Un modèle peut s'abstenir. Encore faut-il que le système autour de lui l'y autorise, et c'est une décision d'architecture, pas de modèle.
Exemples réels : quand une hallucination coûte cher
Trois affaires documentées suffisent à mesurer le risque. Dans chacune, l'hallucination a franchi toutes les relectures humaines avant d'atteindre un client, un juge ou un gouvernement.
| Affaire | Ce que l'IA a inventé | Conséquence |
|---|---|---|
| Air Canada (2024) | Le chatbot du site a inventé une politique de remboursement pour deuil applicable après le vol | Le tribunal a jugé la compagnie responsable des propos de son chatbot et l'a condamnée à indemniser le client |
| Mata c. Avianca (2023) | ChatGPT a fourni à un avocat des jurisprudences inexistantes, puis a confirmé qu'elles étaient réelles | Sanctions du juge fédéral contre les avocats, affaire devenue le cas d'école mondial |
| Deloitte Australie (2025) | Un rapport à 440 000 dollars australiens contenait des références fabriquées et une fausse citation de jugement | Remboursement partiel au gouvernement australien, version corrigée publiée |
Le précédent Air Canada mérite d'être lu en entier : la compagnie a plaidé que son chatbot était une entité distincte, responsable de ses propres actes. Le tribunal canadien a balayé l'argument (décision Moffatt v. Air Canada, 2024 BCCRT 149) : une entreprise répond de tout ce que publie son site, chatbot compris.
Dans l'affaire Avianca, le détail le plus instructif est ailleurs : l'avocat a demandé à ChatGPT si les affaires citées étaient réelles, et l'outil a répondu oui (jugement de sanctions, S.D.N.Y. 2023). Vérifier une hallucination auprès du système qui l'a produite ne constitue pas une vérification.
Quant au rapport Deloitte, un chercheur y a relevé une vingtaine de références fabriquées, dont une citation de juge inventée (The Guardian, octobre 2025). L'IA avait produit un document d'apparence irréprochable, et l'apparence a suffi jusqu'à la publication.
Quel est le taux d'hallucination d'une IA ?
Il n'existe pas de taux d'hallucination universel. Le taux dépend du modèle, du type de question, de l'accès ou non à des sources, et de la liberté laissée au modèle de s'abstenir. Sur un même test, la recherche d'OpenAI mesure de 26 à 75 pour cent d'erreurs selon le réglage du modèle : l'écart vient du comportement, pas de l'intelligence.
Trois repères pour interpréter les chiffres que vous croiserez :
- Les taux mesurés sur des questions factuelles courtes ne disent rien de votre cas d'usage : un modèle branché sur vos données via une recherche documentaire se trompe beaucoup moins qu'un modèle qui répond de mémoire.
- Un classement fondé sur la seule exactitude favorise mécaniquement les modèles qui bluffent. Regardez le taux d'erreur, pas seulement le taux de bonnes réponses.
- Le taux pertinent pour votre entreprise n'est pas celui du modèle, mais celui de votre système complet : sources, garde-fous, contrôle humain. C'est lui qu'il faut mesurer, tâche par tâche.
Quels risques concrets pour votre entreprise ?
Le risque d'hallucination se matérialise à trois endroits précis : ce que votre IA promet, ce qu'elle chiffre, et ce qu'elle documente.
- Ce qu'elle promet : depuis le précédent Air Canada, une réponse de chatbot engage l'entreprise. Une politique commerciale inventée devient une créance.
- Ce qu'elle chiffre : un indicateur inventé dans un rapport client ou un tableau de bord détruit en une fois la confiance construite sur des mois. Et personne ne vérifie un chiffre plausible.
- Ce qu'elle documente : une référence fabriquée dans un document contractuel, réglementaire ou juridique expose à des sanctions, comme l'ont appris Deloitte et les avocats d'Avianca.
Le risque grandit avec l'autonomie : dans un système d'agents IA enchaînés, l'invention d'un agent devient la donnée d'entrée du suivant. Sans point de contrôle, l'erreur se propage en silence.
Comment réduire les hallucinations ? Les parades opérationnelles
On ne supprime pas les hallucinations, on les rend inoffensives par l'architecture. Cinq parades, par ordre d'efficacité, telles qu'on les câble dans un système en production.
1. Ancrez les réponses dans vos données
La première parade est le RAG, la génération augmentée par récupération : le système va chercher les documents pertinents dans vos sources vérifiées et impose au modèle de répondre à partir d'eux. Les hallucinations chutent fortement, sans disparaître : le modèle peut encore mal lire ou extrapoler.
2. Ne laissez jamais le modèle écrire les chiffres
C'est la parade la plus efficace et la moins pratiquée. Chaque chiffre d'un rapport doit être inséré tel quel depuis la réponse de l'API source (votre CRM, votre outil analytics, votre compte publicitaire). Le modèle rédige le commentaire autour des chiffres qu'on lui a fournis, jamais les chiffres eux-mêmes.
Et quand une source ne répond pas, le système écrit "donnée indisponible". Jamais une estimation. Un trou assumé vaut toujours mieux qu'un chiffre inventé : le premier déclenche une vérification, le second une décision.
3. Placez l'humain au bon endroit
Tout ne mérite pas une relecture, mais rien d'irréversible ne doit partir sans contrôle. Trois niveaux suffisent :
- Approbation requise : tout ce qui engage l'entreprise (envoi client, contrat, publication) attend une validation humaine explicite.
- Revue des exceptions : le système traite les cas normaux seul et route les cas ambigus ou hors seuil vers un humain.
- Exécution automatique : réservée aux tâches sans conséquence externe et réversibles.
4. Tracez chaque réponse jusqu'à sa source
Chaque affirmation produite doit pouvoir répondre à la question : d'où vient-elle ? Un journal qui relie chaque chiffre et chaque citation à sa source transforme la vérification d'une enquête en un clic. C'est aussi votre preuve le jour où un client ou un auditeur demande des comptes.
5. Traitez chaque sortie comme un brouillon
La dernière parade est culturelle. Une sortie d'IA est un brouillon à vérifier, pas une vérité à copier. Les trois affaires citées plus haut ont un point commun : quelqu'un a traité une sortie de modèle comme un document fini. La règle vaut aussi pour la vérification elle-même : on vérifie auprès de la source, jamais auprès du modèle.
L'essentiel à retenir
- Une hallucination d'IA est une invention présentée avec l'aplomb d'un fait : c'est une propriété statistique des modèles, pas un bug qu'une mise à jour fera disparaître.
- Les modèles hallucinent parce que leur entraînement récompense la réponse tentée plutôt que l'aveu d'ignorance : un modèle peut s'abstenir, si le système l'y autorise.
- Le coût est réel et documenté : responsabilité engagée (Air Canada), sanctions judiciaires (Avianca), remboursement d'honoraires (Deloitte).
- La réponse est architecturale : ancrage dans vos données, chiffres insérés depuis la source, contrôle humain par niveaux, traçabilité complète.
C'est exactement ainsi que nous construisons chez Krylli : des systèmes où chaque chiffre est tracé jusqu'à sa source et où le modèle ne rédige que le commentaire. Si vous voulez voir où un tel système s'appliquerait dans votre activité, réservez un appel de cartographie gratuit : 30 minutes, sans engagement.
