Hallucination (IA)

En intelligence artificielle, une hallucination est une affirmation plausible mais fausse produite par un modèle de langage : un fait inventé, un chiffre erroné, une citation ou une source qui n'existe pas, énoncés avec la même assurance qu'une information exacte. Le phénomène est inhérent au fonctionnement des modèles et touche les moteurs de réponse qui s'en servent, AI Overviews et mode IA de Google compris. Pour un site ou une marque, il pose une question nouvelle : ce que l'IA en dit peut être faux, et lui être attribué.

Définition détaillée de l'hallucination

Le terme est emprunté à la psychiatrie, par analogie : le modèle « perçoit » quelque chose qui n'existe pas. OpenAI en donne, en septembre 2025, une définition sobre : des affirmations plausibles mais fausses générées par un modèle de langage. Google Cloud parle de résultats incorrects ou trompeurs, qui peuvent aller jusqu'à fabriquer des liens vers des pages web qui n'ont jamais existé. La recherche académique distingue deux familles : l'hallucination de fait, quand l'énoncé contredit le monde réel ou n'est pas vérifiable, et l'hallucination de fidélité, quand l'énoncé contredit ou déborde la source que le modèle était censé résumer.

Ce qui rend le phénomène dangereux n'est pas l'erreur en soi, mais sa forme. Une hallucination est grammaticalement correcte, cohérente avec le contexte, formulée avec assurance. Rien dans le texte ne la distingue d'une information vraie. L'exemple donné par OpenAI est parlant : interrogé sur le titre de la thèse de l'un des auteurs de l'étude, un assistant grand public a fourni trois titres différents, tous faux, puis trois dates de naissance, toutes fausses.

Pourquoi les modèles hallucinent

La prédiction du mot suivant

Un modèle de langage ne consulte pas une base de faits : il prédit le mot le plus probable après les précédents, à partir de régularités apprises sur d'immenses corpus. Pour l'orthographe ou la syntaxe, les régularités sont fortes et les erreurs rares. Pour un fait isolé, une date d'anniversaire, un titre d'article, un chiffre précis, il n'y a souvent aucune régularité à apprendre : l'information est apparue une fois, ou jamais. Le modèle produit alors une valeur vraisemblable. L'étude publiée par OpenAI en septembre 2025 montre que ces erreurs naissent de pressions statistiques ordinaires, comme des erreurs de classification, dès la phase de pré-entraînement.

Des évaluations qui récompensent le pari

La même étude avance une seconde cause, qui explique pourquoi les hallucinations persistent alors que les modèles progressent : la façon dont on les note. La plupart des tests mesurent une exactitude, un pourcentage de bonnes réponses. Un modèle qui répond « je ne sais pas » obtient zéro ; un modèle qui devine a une chance d'avoir raison. Sur des milliers de questions, le modèle qui parie l'emporte au classement. OpenAI illustre le mécanisme avec deux de ses modèles sur le test SimpleQA : l'un s'abstient sur 52 % des questions et se trompe sur 26 % ; l'autre s'abstient sur 1 % et se trompe sur 75 %, tout en affichant une exactitude légèrement supérieure. La proposition des auteurs est de modifier la notation des tests dominants pour pénaliser l'erreur confiante plus que l'aveu d'incertitude.

Les données et le contexte

Google Cloud ajoute des causes plus classiques : des données d'entraînement incomplètes ou biaisées, des hypothèses fausses apprises par le modèle, et l'absence d'ancrage dans une source vérifiable. Un modèle interrogé hors de ce qu'il connaît, ou sur des événements postérieurs à son entraînement, comble le vide de la manière la plus vraisemblable.

Les hallucinations dans la recherche

Ce que Google en dit pour ses aperçus IA

Après le lancement des AI Overviews aux États-Unis en mai 2024, des réponses absurdes ont circulé, comme le conseil d'ajouter de la colle à une pizza pour faire tenir le fromage. Dans un billet du 30 mai 2024, Google a expliqué que ses aperçus ne fonctionnent pas comme un chatbot qui génère à partir de ses seules connaissances : ils sont adossés aux résultats de recherche et ne font que présenter ce que des pages disent. Selon Google, leurs erreurs viennent donc rarement d'une hallucination au sens strict, mais d'une mauvaise interprétation de la requête, d'une nuance de langage mal lue sur une page, ou d'un manque de contenu fiable sur le sujet. La colle sur la pizza venait d'un message sarcastique sur un forum ; la question « combien de cailloux manger par jour » d'un article satirique repris sur un site tiers. Google a annoncé plus d'une douzaine de correctifs : détection des requêtes absurdes, limitation des contenus satiriques et des contenus générés par les utilisateurs, restrictions de déclenchement sur la santé et l'actualité.

Le même mécanisme vaut pour le mode IA : Google indique qu'il est ancré dans ses systèmes de classement et que, faute de confiance suffisante dans la réponse générée, c'est une liste de résultats classiques qui s'affiche.

Les citations inventées et les sources déformées

Dans un assistant qui cherche sur le web, l'hallucination prend deux formes propres à la recherche. La première est la citation fabriquée : une URL, un titre d'article ou une étude qui n'existent pas, mais dont la forme est crédible. La seconde, plus fréquente et plus discrète, est la source réelle mais déformée : la page existe, elle est bien liée, mais le résumé lui fait dire autre chose, un chiffre arrondi dans le mauvais sens, une réserve supprimée, une position attribuée au mauvais acteur. Le classement tenu par Vectara mesure précisément cette fidélité : chaque modèle résume des milliers de documents et un modèle d'évaluation compte les résumés qui contredisent leur source. Dans la mise à jour du 11 mai 2026, les meilleurs modèles se situaient entre 2 % et 5 % de résumés infidèles, la plupart des autres entre 5 % et 10 %.

Comment les éditeurs réduisent les hallucinations

• L'ancrage dans des sources (RAG) : au lieu de répondre de mémoire, le modèle reçoit des documents récupérés au moment de la question et rédige à partir d'eux. C'est le principe de la génération augmentée par récupération, que Google appelle « grounding » et sur laquelle reposent les aperçus IA, le mode IA et les modes de Deep Research. Elle réduit les inventions, sans supprimer les erreurs de lecture.
• Les citations vérifiables : lier chaque affirmation au passage qui la fonde. Certaines API, comme celle d'Anthropic, renvoient pour chaque phrase l'extrait exact du document source ; les assistants de recherche affichent leurs sources dans le même but.
• Le droit de s'abstenir : entraîner et noter les modèles pour qu'ils disent leur incertitude plutôt que de deviner, ce qu'OpenAI présente comme la correction la plus structurelle.
• Le raisonnement et la vérification : les modèles de raisonnement, qui détaillent une chaîne de pensée avant de répondre, et les agents qui recoupent plusieurs sources hallucinent moins sur les tâches factuelles, sans que le taux tombe à zéro.
• Les garde-fous produit : ne pas déclencher de réponse générée sur les sujets sensibles, limiter les sources de faible fiabilité, retirer les réponses signalées.

Ce que cela implique pour un site et une marque

Être cité, et cité juste

Une page reprise dans une réponse générée peut être déformée. Le meilleur moyen de limiter le risque est d'écrire des passages autonomes et sans ambiguïté : une définition en une phrase, un chiffre avec sa date et son périmètre, une position formulée de façon explicite. Un contenu qui laisse le lecteur déduire laisse aussi le modèle déduire, et c'est dans la déduction que naît l'erreur. C'est l'un des principes de la citation en GEO.

Surveiller ce que l'IA dit de la marque

Une marque peut être mentionnée dans une réponse avec des caractéristiques, des prix ou des avis qui ne sont pas les siens, sans qu'aucune page du site ne les contienne. Tester régulièrement ses requêtes de marque dans les moteurs de réponse, relever les affirmations fausses et leur origine (une page tierce obsolète, un forum, une confusion avec un homonyme) fait désormais partie de la veille de réputation. Quand la source est identifiable, la corriger ou la faire corriger est plus efficace que de signaler la réponse.

Ne pas en produire soi-même

Un site qui publie des contenus générés sans relecture publie des hallucinations : des statistiques sans source, des citations attribuées à des personnes qui ne les ont jamais prononcées, des références bibliographiques inventées. Ces contenus sont ensuite crawlés, indexés et repris par d'autres modèles, qui les citent comme sources. Google range les contenus produits en masse sans valeur pour le lecteur dans ses règles anti-spam ; au-delà du risque de classement, c'est la crédibilité du site qui est engagée. Toute donnée issue d'un modèle se vérifie à la source avant publication.

FAQ

Pourquoi une IA invente-t-elle des sources ?

Parce qu'elle prédit du texte vraisemblable, pas des faits. Une référence bibliographique a une forme très régulière (auteur, titre, revue, année) que le modèle reproduit sans difficulté, alors que l'existence de la référence précise est une information qu'il n'a souvent jamais vue. Il produit donc une référence plausible. Les assistants qui cherchent réellement sur le web et lient leurs sources réduisent ce risque.

Les AI Overviews de Google hallucinent-elles ?

Google affirme que non au sens strict : les aperçus sont adossés aux résultats de recherche et présentent ce que des pages disent. Leurs erreurs viennent, selon Google, d'une mauvaise lecture de la requête ou d'une page, ou de l'absence de contenu fiable sur un sujet. Le résultat pour le lecteur peut être le même : une affirmation fausse, présentée avec assurance en tête de page.

Le RAG supprime-t-il les hallucinations ?

Il les réduit. En fournissant au modèle des documents à jour, il évite les inventions pures. Mais le modèle peut encore mal lire une source, mélanger deux passages ou combler un vide quand les documents ne répondent pas. Les taux d'infidélité mesurés sur des tâches de résumé restent de quelques pour cent pour les meilleurs modèles.

Comment vérifier une réponse d'IA ?

Ouvrir les sources citées et vérifier que le passage dit bien ce que la réponse lui fait dire ; se méfier des chiffres précis sans date ni périmètre ; recouper toute affirmation surprenante avec une source primaire ; considérer qu'une référence non trouvable est inventée jusqu'à preuve du contraire.

Que faire si une IA dit quelque chose de faux sur ma marque ?

Chercher l'origine : la réponse cite-t-elle une page ? Si oui, c'est cette page qu'il faut corriger ou faire corriger. Si non, publier sur son propre site une information claire, datée et facile à extraire sur le point en cause, et signaler la réponse par les mécanismes de retour de l'outil. Les corrections prennent du temps à se propager, le suivi doit être régulier.

En résumé

• Hallucination (IA) : une affirmation plausible mais fausse produite par un modèle de langage, indiscernable d'une information exacte à la lecture.
• Causes : la prédiction statistique du mot suivant, qui comble les faits rares par du vraisemblable ; des évaluations qui récompensent le pari plutôt que l'aveu d'incertitude (OpenAI, septembre 2025) ; des données lacunaires.
• Dans la recherche : Google dit que ses aperçus IA n'hallucinent pas au sens strict mais peuvent mal lire une page ou une requête ; les assistants peuvent citer des sources inventées ou déformer des sources réelles.
• Réduction : ancrage dans des sources (RAG), citations vérifiables, droit de s'abstenir, raisonnement, garde-fous ; aucun ne ramène le taux à zéro.
• Pour une marque : écrire des passages sans ambiguïté, surveiller ce que les moteurs de réponse disent de soi, ne jamais publier une donnée générée sans vérification.

Abondance c'est aussi des audits SEO, un service de contenus et des formations en e-learning !