Hallucinations de l’IA : vérifier une réponse avant de l’utiliser

Par Ethan Ben Amram · 3 min de lecture

Un compte rendu impeccable, une référence qui semble sérieuse, un chiffre présenté avec assurance. Le problème apparaît au moment de vérifier : l’information n’existe pas. Pour utiliser l’IA au travail, il faut organiser cette vérification avant que la réponse ne parte chez un client.

Une réponse fluide n’est pas une preuve

Le NIST décrit les confabulations comme des contenus erronés présentés de manière convaincante. Une IA peut notamment produire une référence inexistante ou assembler des informations réelles dans une conclusion incorrecte. La qualité de la rédaction ne permet donc pas de juger la fiabilité du fond.

Prenons un exemple fictif. Vous donnez une proposition fournisseur à un assistant et lui demandez de résumer les conditions de livraison. Il annonce « livraison sous dix jours ». Le document parle seulement d’un délai à confirmer. Une phrase courte, parfaitement plausible, vient de transformer une inconnue en engagement.

La question utile devient : où cette affirmation apparaît-elle dans le document ? Si personne ne peut retrouver le passage, elle ne doit pas être traitée comme un fait établi.

Le contrôle en quatre étapes

1. Repérez les éléments vérifiables. Noms, montants, dates, citations, conditions contractuelles et obligations méritent un contrôle explicite. Surlignez-les avant de retravailler le style.
2. Remontez à la source originale. Ouvrez le document ou la page citée. Vérifiez le passage, sa date, son contexte et la bonne version. Un lien qui fonctionne peut mener à une page qui ne soutient pas l’affirmation.
3. Séparez extraction et interprétation. « Le contrat contient cette clause » et « cette clause signifie que nous pouvons résilier » sont deux opérations différentes. La seconde peut nécessiter une personne compétente.
4. Conservez les inconnues. Une information absente doit rester absente. Demandez une liste des points à confirmer plutôt qu’un texte complété par supposition.

Cette consigne facilite le contrôle ; elle ne garantit pas une réponse exacte. Les extraits et les références produits doivent eux aussi être vérifiés. Demander à la même IA si elle est « sûre à 100 % » n’apporte pas une preuve indépendante.

Adapter la relecture à la conséquence d’une erreur

Pour une liste d’idées de titres, vous pouvez sélectionner librement ce qui vous convient. Pour une synthèse interne, contrôlez les faits qui orientent la discussion. Pour un devis, une décision RH ou une interprétation juridique, prévoyez une validation par la personne responsable avant utilisation.

L’OWASP recense la désinformation produite par les modèles parmi les risques des applications à base de LLM. Ajouter des documents de référence peut aider, mais ne dispense pas de contrôler ce que le système en déduit.

Tester avec vos propres documents

Nous proposons de commencer par une vingtaine de cas représentatifs : un document simple, un scan imparfait, deux versions contradictoires, une donnée manquante et un cas où la bonne réponse est « impossible à déterminer ». Ce nombre constitue un point de départ pratique, pas une validation statistique.

Pour chaque essai, notez les erreurs importantes, les omissions et le temps de correction. Conservez la version de l’outil et les consignes utilisées pour pouvoir comparer après un changement. Si vous devez tout refaire, le gain annoncé par la démonstration n’existe pas dans votre processus réel.

Vous pouvez poursuivre avec notre méthode pour mesurer les gains réels de l’IA. La bonne mesure inclut toujours le temps nécessaire pour obtenir un résultat utilisable.