Les mots du marché
Qu’est-ce qu’une hallucination d’IA ?
Réponse courte
Une hallucination est une affirmation produite par un modèle, plausible à la lecture, mais fausse ou soutenue par aucune source.
Explication
Le modèle ne ment pas, il complète. Il produit la suite la plus probable d’un texte. Quand l’information lui manque, la suite la plus probable reste une phrase bien tournée : un chiffre rond, une référence qui sonne juste, une date crédible.
Le danger vient du ton. Une hallucination est écrite avec la même assurance qu’un fait.
On la réduit en donnant au modèle des sources à citer, en l’autorisant à dire qu’il ne sait pas, et en vérifiant ce qui compte.
Exemple
Cas d’écoleUn agent à qui l’on demande le tarif d’un client, sans accès au contrat, peut répondre un montant vraisemblable. Dans une entreprise, ce montant inventé devient une facture fausse.
Confusion fréquente
Croire que les modèles récents n’hallucinent plus. Ils le font moins souvent. Ils le font encore.
Comment une réponse peut sembler juste sans l'être
Un modèle de langage complète un texte avec la suite la plus probable : explication pédagogique, pas description exhaustive du fonctionnement interne. Le risque métier est un ton assuré alors que la source manque.
Parades prévues dans un mandat Hestia
Les parades annoncées passent par des sources identifiées et par l'acceptation d'un « je ne sais pas » lorsqu'aucune source ne tient. L'agent s'arrête lorsqu'aucune source identifiée ne soutient une affirmation. Envoi, paiement, publication et suppression restent des exemples d'actes souvent soumis à validation humaine dans un mandat.
Lien avec le second cerveau gouverné
Un second cerveau gouverné conserve des faits sourcés et leur provenance. Une trace brute ingérée ne devient pas automatiquement un fait durable.
Cas Les Gaspard (tarif client)
Sans contrat, un montant plausible peut être faux : l'étude facturation en fait un cas d'école. Un écart tarifaire 9,27 versus 18,08 est documenté. Les corrections à la source citées dans l'étude facturation concernent notamment des volumes inventés, distinctes de cet écart unitaire.
Modèles récents
Les modèles récents hallucinent encore.
RAG et mandat
Le terme RAG est relié aux autres définitions du lexique public. Sous mandat, seules les sources identifiées et l'arrêt en l'absence de preuve comptent pour limiter les affirmations non fondées.
Dans un mandat
Un agent sous mandat n’affirme rien sans source et s’arrête quand la source manque. « Je ne sais pas » est un livrable acceptable. L’invention ne l’est pas.
Pour situer ce mot
Termes liés
Sources
Guillaume Aubry · Publié le · Vérifié le