L'outil a inventé une réponse, et rien dans son ton ne l'annonçait

Vous posez une question à un outil conversationnel. Une question précise, sur un sujet que vous maîtrisez : le délai d'une procédure, la référence d'un texte, la date d'une décision. La réponse arrive en quelques secondes. Elle est bien construite, elle porte un numéro et une date, elle ne comporte aucune hésitation. Vous vérifiez, par acquit de conscience. Le numéro n'existe pas.

Ce qui vous arrête n'est pas l'erreur. C'est qu'elle ressemblait trait pour trait à une réponse juste.

À partir de là, deux conclusions sont possibles. La première classe ces outils parmi les curiosités : elle est compréhensible, et elle vous coûtera des occasions. La seconde consiste à comprendre d'où vient l'erreur, pour décider où l'outil peut travailler.

Voici le mécanisme, expliqué sans mathématiques, puis les quatre dispositions qui y répondent. Aucune ne supprime le risque. Et la plus simple à mettre en œuvre est celle qu'on retire en premier.

Ce n'est pas une panne, c'est le fonctionnement normal de l'outil

Commençons par ce que fait la machine, car tout en découle.

Lorsque vous lui posez une question, l'outil ne va pas chercher une information dans un fichier pour vous la restituer. Il produit un texte, mot après mot, en choisissant à chaque fois la suite la plus vraisemblable au regard de l'immense quantité de textes lus pendant son entraînement. Il ne compose pas une réponse. Il continue une phrase.

La conséquence tient en une ligne. Une suite de mots peut être parfaitement vraisemblable et parfaitement fausse. « La décision n° 2019-142 du 14 mars » a exactement la forme d'une vraie référence, et rien dans la mécanique qui l'a produite ne la distingue d'une référence exacte.

Le phénomène porte un nom : on parle d'hallucination. Le mot est trompeur, parce qu'il suggère un accident isolé. L'organisme fédéral américain qui publie les référentiels techniques utilisés par l'administration et l'industrie — le NIST — a préféré un autre terme dans son cadre de gestion des risques de l'intelligence artificielle générative, publié en juillet 2024 : la confabulation, définie comme la production d'un contenu erroné énoncé avec assurance, susceptible d'induire l'utilisateur en erreur. C'est plus exact. L'assurance fait partie du phénomène ; elle n'est pas un supplément regrettable.

Une question se pose alors. Si la machine ignore la réponse, pourquoi ne le dit-elle pas ?

Une équipe de chercheurs, dont plusieurs travaillent chez OpenAI, a publié en septembre 2025 un article qui traite précisément de cela. Leur explication est d'ordre scolaire. Ces systèmes sont notés comme on note un élève à un examen à choix multiples : une réponse juste rapporte un point, une réponse fausse n'en rapporte aucun, et une abstention n'en rapporte aucun non plus. Dans ce barème, deviner vaut toujours mieux que s'abstenir. Un élève rationnel remplit toutes les cases ; la machine fait de même, parce que nous l'avons notée ainsi. Les auteurs en tirent une conclusion inconfortable : tant que les classements qui font autorité noteront de cette manière, l'aplomb restera récompensé. Ce n'est pas un défaut de fabrication qu'une prochaine version viendra réparer.

D'où la reformulation. « Comment supprimer l'hallucination » n'admet pas de réponse. « Comment la rendre rare, visible et sans conséquence grave » en admet quatre.

Le premier garde-fou réduit ce que l'outil a le droit de traiter

Un assistant qui répond à tout se trompe sur tout. Un assistant qui répond sur douze sujets et refuse le reste ne se trompe que sur douze sujets, et vous savez lesquels.

Deux manières de l'installer coexistent. Dans la première, l'outil répond à partir de ce qu'il a lu pendant son entraînement, c'est-à-dire d'une masse de textes publics sur laquelle vous n'avez aucune prise. Dans la seconde, on lui interdit cette mémoire générale et on lui impose de ne travailler que sur les documents que vous avez fournis. La documentation d'Anthropic pour son modèle Claude range explicitement cette consigne parmi les techniques de réduction des erreurs.

Ce choix n'est pas un réglage technique, c'est une décision de dirigeant. Personne d'autre que vous ne peut dire si votre assistant a le droit de parler de délais de livraison, de garantie, ou d'un litige en cours.

Écrivez donc deux listes avant que quiconque ne développe quoi que ce soit. La première énumère les sujets traités. La seconde énumère les sujets refusés, avec pour chacun ce que l'outil répond à la place et vers qui il oriente la personne. Un refus sans orientation est une porte fermée ; un refus assorti d'un numéro de téléphone est un aiguillage. Le prix est visible : il refusera, devant vos clients, des questions auxquelles il aurait su répondre approximativement.

Le deuxième garde-fou attache chaque réponse à un document que vous avez écrit

Deuxième disposition, et c'est celle que vos clients verront.

Au lieu de laisser l'outil répondre de mémoire, on intercale une étape. La question arrive ; un moteur de recherche va d'abord chercher, dans vos documents, les passages qui traitent du sujet ; l'outil ne rédige qu'à partir de ces passages. Il ne se souvient pas, il lit, puis il reformule.

Le procédé porte des noms différents selon les fournisseurs. Google le nomme l'ancrage — *grounding* en anglais — et le définit dans sa documentation comme le fait de relier la réponse produite à des sources d'information vérifiables. Il précise que cela réduit les chances que l'outil invente. Réduit : le verbe est le sien, et il n'en emploie pas de plus fort.

L'effet secondaire est aussi précieux que l'effet principal. Puisque la réponse a été fabriquée à partir de passages identifiés, ces passages reviennent avec elle. La documentation de Google pour son interface Gemini indique que les réponses ancrées sont accompagnées des citations correspondantes, et y voit un moyen d'établir la confiance en montrant les sources. Anthropic décrit une fonction équivalente. Votre client ne lit alors plus une réponse tombée de nulle part : il lit une réponse suivie de la mention de votre page « Conditions d'annulation », mise à jour à telle date. Et vous, vous ouvrez cette page et vous vérifiez en quelques secondes.

Il existe un revers, et il est important. Ce garde-fou déplace le problème plus qu'il ne le supprime : un assistant parfaitement ancré sur un document périmé produit une réponse fausse, traçable et impeccablement sourcée. Vous n'avez pas éliminé le risque d'erreur, vous l'avez transféré de la machine vers votre documentation. Le déplacement est favorable pour une raison simple : une documentation se relit et se corrige, alors que le fonctionnement interne de l'outil, lui, ne s'inspecte pas.

Le geste correspondant est administratif et sans charme. Chaque document source porte un nom de propriétaire et une date de revue. Sans cela, l'ancrage vous procure surtout une tranquillité imméritée.

Le troisième garde-fou autorise l'outil à dire qu'il ne sait pas, et c'est celui qu'on retire en premier

Cette troisième disposition tient en une instruction explicite : lorsque les documents ne permettent pas de répondre, l'outil doit le dire et s'arrêter là. La documentation d'Anthropic recommande explicitement cette technique et indique qu'elle réduit fortement les affirmations fausses. Une phrase d'autorisation, écrite dans les consignes permanentes de l'outil — le texte de cadrage placé en tête de chaque conversation : la mise en œuvre ne va pas plus loin.

Pourquoi faut-il l'autoriser explicitement ? Parce que le comportement spontané est l'inverse, pour la raison vue plus haut : la machine a été notée sur un barème qui punit l'abstention autant que l'erreur. Tant que vous n'écrivez pas que « je ne sais pas » constitue un résultat acceptable, elle comble.

Vient maintenant la raison pour laquelle ce garde-fou est le plus fragile des quatre. Un assistant qui répond à tout donne une impression de maîtrise. Un assistant qui indique que l'information ne figure pas dans sa documentation et propose de vous mettre en relation avec une personne donne une impression de limite. Dans une salle de réunion, à dix minutes d'une décision, la première impression pèse plus lourd. La consigne se desserre alors, le temps de la démonstration, et rien n'impose de la resserrer ensuite.

Le renversement à opérer tient en une phrase. Un assistant qui ne sait pas refuser ne vous donne pas des réponses justes : il vous donne des réponses affirmatives. La différence n'apparaît qu'en production, devant de vrais clients.

Le geste, ici, vous revient entièrement. Écrivez vous-même la phrase de refus, comme vous écririez une réponse type pour votre accueil. Elle dit trois choses : que l'information n'est pas disponible, qu'il ne s'agit pas d'un incident technique, et ce que la personne doit faire ensuite. Personne ne la rédigera à votre place : elle engage votre voix.

Le quatrième garde-fou place une personne là où l'erreur coûte cher

Les trois premières dispositions agissent avant la réponse. La quatrième agit après, et pas partout : un contrôle humain sur chaque réponse annule l'intérêt du dispositif.

Le critère de tri n'est pas la difficulté de la question. C'est ce que coûte l'erreur, et le fait qu'elle soit rattrapable ou non. Un horaire d'ouverture erroné se corrige par un message. Un délai de rétractation erroné, communiqué par écrit à un client, ne se corrige pas par un message. Le geste : écrire, avant toute mise en service, la liste des cas où rien ne part sans relecture humaine.

Un fait mérite d'être connu avant de placer cette barrière. En février 2024, un tribunal canadien de règlement des litiges civils a examiné le cas d'un voyageur ayant suivi une indication inexacte, donnée par l'assistant conversationnel d'une compagnie aérienne. La compagnie a soutenu que cet assistant devait être regardé comme une entité distincte, responsable de ses propres propos. Le tribunal a écarté l'argument : il n'y a pas de différence entre une information affichée sur une page fixe et une information délivrée par un assistant, l'entreprise répond de ce que son site dit.

Cette décision a été rendue au Canada, dans un cadre juridique qui n'est pas le vôtre, et elle ne préjuge de rien devant une juridiction algérienne. Sur ce terrain, la seule démarche sérieuse consiste à interroger un avocat. Elle vaut néanmoins comme signal : le raisonnement selon lequel « c'est la machine qui l'a dit » a été présenté devant un juge, et il n'a pas prospéré.

Un second épisode éclaire la forme que prend la défaillance. En 2023, devant un tribunal fédéral de New York, des avocats ont déposé un mémoire s'appuyant sur six décisions de justice qui n'existaient pas, aux noms et aux extraits crédibles. Le juge a prononcé une sanction. Le faux était bien construit, donc indétectable à la lecture rapide : c'est toute la raison d'être de la quatrième barrière.

GARDE-FOU · CE QU'IL EMPÊCHE · CE QU'IL COÛTE · CE QUE VOUS ÉCRIVEZ, VOUS

Garde-fou	Ce qu'il empêche	Ce qu'il coûte	Ce que vous écrivez, vous
Réduire le périmètre	Que l'outil réponde sur des sujets que vous n'avez jamais cadrés	Des refus visibles, y compris devant vos clients	La liste des sujets traités, celle des sujets refusés, et l'orientation attachée à chaque refus
Ancrer sur vos documents	Que la réponse vienne de la mémoire générale de l'outil plutôt que de vos textes	Un travail de mise à jour permanent de la documentation	Le nom du propriétaire et la date de revue de chaque document source
Autoriser le « je ne sais pas »	Que l'outil comble un vide par une invention plausible	Une impression de maîtrise moindre, surtout en démonstration	La phrase de refus exacte, et ce qu'elle propose ensuite
Placer une validation humaine	Qu'une erreur devienne un engagement pris en votre nom	Du délai sur les réponses concernées, et du temps de personne	La liste des cas où rien ne part sans relecture

Tester sur des questions faciles ne prouve rien

Reste à savoir si ces quatre dispositions fonctionnent chez vous, sur vos documents, avec vos clients. Une démonstration ne l'établit pas : les questions y ont été choisies par la personne qui a construit l'outil.

Ce qui l'établit, c'est une liste de questions écrites par vous et posées à l'outil : votre jeu de test. Cette liste se construit en trois temps.

Écrivez les questions avant de voir l'outil. Une liste rédigée à froid, par vous et par les personnes qui répondent au téléphone toute la journée. Une liste écrite après la démonstration se conforme, sans que personne ne le veuille, à ce que l'outil sait déjà faire.

Composez-la pour qu'elle soit difficile. Cinq familles valent la peine. Les questions dont la réponse ne figure nulle part dans vos documents. Celles à prémisse fausse — « à quelle heure ouvre votre agence de Constantine ? » lorsque vous n'avez pas d'agence à Constantine : la famille la plus révélatrice, parce qu'elle mesure la capacité de l'outil à contredire la personne qui l'interroge. Celles posées au bord exact du périmètre. Celles qui sont ambiguës, sur lesquelles deux de vos collaborateurs ne s'accorderaient pas. Enfin, la même question posée de trois manières, dont une avec une faute de frappe, pour vérifier que la réponse ne change pas de sens.

La documentation d'Anthropic consacrée aux jeux de test recommande la même orientation, et préfère un grand nombre de questions notées automatiquement à quelques-unes notées à la main.

Notez en trois colonnes, pas en deux. Réponse exacte, réponse fausse, refus. Un refus n'est pas un échec : c'est le comportement attendu sur toutes les questions dont la réponse n'existe pas dans vos documents. Confondre les deux dernières colonnes conduit à réclamer moins de refus, donc plus d'inventions. La seule colonne qui doit rester vide est celle du milieu.

Aucun des quatre ne supprime le risque, et c'est pourquoi on tient un journal

La documentation d'Anthropic est explicite sur ce point, et il faut la reprendre sans l'adoucir : ces techniques réduisent fortement les hallucinations, elles ne les éliminent pas, et les informations critiques doivent toujours être validées.

Il subsiste donc une part d'erreur. La question devient : combien de temps s'écoulera entre le moment où elle se produit et celui où vous l'apprendrez ?

C'est le rôle du journal, l'enregistrement de ce qui s'est passé. Pour qu'une erreur soit reconstituable après coup, il conserve six éléments : la date et l'heure ; la question exacte, mot pour mot ; la réponse exacte ; les documents mobilisés, avec leur version ou leur date ; le fait qu'un refus a été opposé, le cas échéant ; un identifiant permettant de retrouver toute la conversation. Réduit à la question et à la réponse, il vous apprendra que l'outil s'est trompé, sans jamais vous dire sur quoi il s'appuyait.

Ajoutez un moyen de signalement d'un seul clic, pour vos clients comme pour vos équipes. Et fixez une lecture mensuelle, une demi-heure, portant sur trois choses : un échantillon pris au hasard, tous les signalements, tous les refus.

Les refus sont la ligne la plus utile du journal, et la plus facile à négliger. Chacun désigne un endroit précis où un client a posé une question à laquelle votre documentation ne répond pas. C'est votre plan de rédaction du mois suivant, écrit par vos clients.

Trois raisonnements paraissent solides, et aucun ne tient

Demander à l'outil, dans ses consignes, de ne pas se tromper. « Ne réponds jamais quelque chose de faux » est une instruction sans effet, parce que le système ne dispose d'aucun signal interne l'avertissant qu'il se trompe. Vous lui demandez de détecter un état qu'il ne perçoit pas. Les instructions qui produisent un effet décrivent un comportement observable : n'utilise que ces documents, et signale-le quand ils ne suffisent pas.

Considérer qu'une source affichée vaut vérification. Une citation peut renvoyer à un document réel qui ne dit pas ce qu'on lui fait dire, ou à un document exact devenu périmé. Ouvrez trois sources au hasard chaque mois et lisez le passage cité : cinq minutes, sur le point qu'aucun indicateur ne mesure.

Se rassurer avec l'idée que les outils récents n'hallucinent presque plus. Cette phrase circule, et aucun des fournisseurs cités plus haut ne l'écrit : chacun maintient son avertissement, et les chercheurs concluent que le phénomène persiste tant que les évaluations récompensent l'aplomb. Lorsqu'un prestataire affirme une chose que les fournisseurs eux-mêmes n'écrivent pas, la question à poser est simple : sur quoi vous appuyez-vous ?

Questions fréquentes

Un outil qui cite ses sources peut-il encore inventer ?

Oui, de deux manières. Il peut attribuer à un document réel une affirmation qui ne s'y trouve pas. Et il peut citer fidèlement un document devenu faux. La citation rend l'erreur vérifiable en quelques secondes, ce qui est déjà considérable, mais elle ne la prévient pas.

Un outil plus puissant réduit-il le problème ?

Il le réduit sur les sujets bien documentés publiquement. Il ne change rien au fait qu'il ignore vos tarifs, vos délais et vos conditions particulières, qui ne figurent nulle part dans son entraînement. Sur les questions qui concernent votre entreprise, ce n'est pas la puissance qui compte, c'est l'ancrage sur vos documents.

Peut-on demander à un second outil de vérifier le premier ?

Cela se pratique, et cela rattrape une partie des erreurs, notamment les contradictions internes. Le second outil relève cependant du même mécanisme que le premier : il peut valider une réponse fausse. Une vérification de ce type ajoute une chance de détection ; elle ne remplace pas une personne sur les décisions qui engagent.

Combien de questions faut-il dans un jeu de test ?

Aucun nombre ne s'impose, et un chiffre annoncé sans connaître votre activité ne signifierait rien. Le critère utile est la couverture : chaque sujet de votre périmètre représenté, chaque famille de questions difficiles présente, et une proportion notable de questions dont la réponse n'existe pas chez vous. Une liste courte et bien composée est plus instructive qu'une longue liste de variations sur le même thème — et si vous notez à la main, c'est la seule que vous dépouillerez vraiment. Le grand nombre ne devient un avantage que le jour où la notation est automatisée.

Notre documentation est éparpillée entre des courriels, des fichiers et la mémoire de deux personnes. Par où commencer ?

Par le périmètre le plus étroit qui soit utile : le sujet sur lequel vous répondez dix fois par semaine. Rassemblez la documentation de ce seul sujet, faites-la relire par la personne qui répond réellement, et n'ouvrez rien d'autre. Un assistant qui traite bien un sujet vaut mieux qu'un assistant qui en traite huit approximativement.

Que faire si l'assistant a déjà donné une information fausse à un client ?

Traitez-la comme une information fausse donnée par un collaborateur : vous rectifiez auprès du client, rapidement et par écrit. Puis vous cherchez l'origine dans le journal — document périmé, question hors périmètre, refus qui aurait dû se déclencher — et vous corrigez la cause. Sur les conséquences contractuelles éventuelles, l'interlocuteur est votre conseil juridique, pas votre prestataire technique.

Pour aller plus loin

• Écrire les questions d'un formulaire pour obtenir des réponses exploitables — le rapprochement est indirect : c'est la même exigence de précision, portée cette fois sur la question que vous posez à vos visiteurs plutôt qu'à un outil.

• Ce qui manque à un fichier partagé pour faire foi — ancrer une réponse sur un document suppose de savoir lequel fait foi, ce qu'un tableur à deux versions ne dit jamais.

• Ranger les informations sur lesquelles un outil ira chercher ses réponses — le travail préalable au deuxième garde-fou : six informations, et trois questions à poser sur chacune.

Ce soir, une feuille et vingt minutes

N'attendez pas d'avoir un outil pour faire ce travail. Il se fait mieux avant.

Prenez une feuille. Écrivez quinze questions que vos clients vous posent réellement. Puis retravaillez la liste jusqu'à ce que cinq d'entre elles n'aient aucune réponse dans vos documents actuels, et que trois reposent sur une prémisse fausse — un service que vous ne proposez pas, un lieu où vous n'êtes pas.

Cette feuille est la première version de votre jeu de test. Le jour où l'on vous fera une démonstration, vous poserez vos questions au lieu de regarder les leurs. Et si un assistant fonctionne déjà chez vous, posez-lui les quinze ce soir.

Ces huit-là — les cinq sans réponse et les trois à prémisse fausse — vous apprendront davantage que les sept autres.

Sources

Les éléments techniques rapportés ici proviennent de la documentation publiée par les fournisseurs et de travaux publics. Ils ont été reformulés, non recopiés. Ces documentations évoluent en continu : ce qui précède vaut à la date de consultation et se revérifie à la source.

• Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala, Edwin Zhang, « Why Language Models Hallucinate », arXiv:2509.04664, déposé le 4 septembre 2025, consulté le 10 août 2026.

• NIST, *Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile* (NIST AI 600-1), juillet 2024, catégorie de risque « Confabulation », consulté le 10 août 2026.

• Anthropic, documentation Claude, « Reduce hallucinations », docs.claude.com/en/docs/test-and-evaluate/strengthen-guardrails/reduce-hallucinations, consultée le 10 août 2026.

• Anthropic, documentation Claude, « Citations », platform.claude.com/docs/en/build-with-claude/citations, consultée le 10 août 2026.

• Anthropic, documentation Claude, « Create strong empirical evaluations », platform.claude.com/docs/en/test-and-evaluate/develop-tests, consultée le 10 août 2026.

• Google, documentation Gemini API, « Grounding with Google Search », ai.google.dev/gemini-api/docs/google-search, consultée le 10 août 2026.

• Google Cloud, documentation Vertex AI, « Grounding overview », docs.cloud.google.com/vertex-ai/generative-ai/docs/grounding/overview, consultée le 10 août 2026.

• *Moffatt v. Air Canada*, 2024 BCCRT 149, Civil Resolution Tribunal de Colombie-Britannique (Canada), février 2024. Décision étrangère, citée à titre d'illustration et sans portée en droit algérien.

• *Mata v. Avianca, Inc.*, United States District Court, Southern District of New York, décision de sanction du 22 juin 2023.

INSEN STUDIO

On regarde votre situation ensemble ?

Vous repartez avec une lecture claire, avec ou sans nous.

Demander un audit digital ↗