Elle invente avec aplomb
Une réponse fausse est formulée exactement comme une réponse juste.
Vous demandez à une IA le nom d'un point de crochet pour faire un bord bien net. La réponse arrive vite, bien tournée, avec un nom précis. Vous cherchez ce point ailleurs : il n'existe pas sous ce nom.
L'assurance du ton ne prouve rien
Une IA écrit une réponse fausse exactement comme une réponse juste. Même ton posé, même vocabulaire sûr. Rien, dans la forme, ne signale l'erreur.
La documentation d'Anthropic — l'éditeur de l'assistant Claude — l'écrit noir sur blanc : même un modèle avancé peut produire un texte factuellement incorrect ou en décalage avec ce que vous lui avez donné. On appelle cela une hallucinationréponse inventée, mais présentée comme un fait établiVoir le glossaire.
Trois gestes pour ne pas vous faire piéger
- Vérifier ailleurs. Toute donnée qui vous engage — un nom de point, une référence de colle, une cote — se recoupe avec une source que vous connaissez déjà.
- Demander la source. « Sur quoi t'appuies-tu ? Cite le passage exact. » Si l'IA ne peut rien citer, traitez l'affirmation comme non fondée.
- Recouper en reposant la question. Anthropic conseille de comparer plusieurs réponses à une même demande : si elles se contredisent, c'est un signe d'invention.
Attention
La même documentation d'Anthropic est claire : ces précautions réduisent fortement les inventions, elles ne les suppriment pas. Pour toute décision qui compte, la vérification reste de votre côté.