Les mots du marché
Qu’est-ce qu’une hallucination d’IA ?
Réponse courte
Une hallucination est une affirmation produite par un modèle, plausible à la lecture, mais fausse ou soutenue par aucune source.
Explication
Le modèle ne ment pas, il complète. Il produit la suite la plus probable d’un texte. Quand l’information lui manque, la suite la plus probable reste une phrase bien tournée : un chiffre rond, une référence qui sonne juste, une date crédible.
Le danger vient du ton. Une hallucination est écrite avec la même assurance qu’un fait.
On la réduit en donnant au modèle des sources à citer, en l’autorisant à dire qu’il ne sait pas, et en vérifiant ce qui compte.
Exemple
Cas d’écoleUn agent à qui l’on demande le tarif d’un client, sans accès au contrat, peut répondre un montant vraisemblable. Dans une entreprise, ce montant inventé devient une facture fausse.
Confusion fréquente
Croire que les modèles récents n’hallucinent plus. Ils le font moins souvent. Ils le font encore.
Dans un mandat
Un agent sous mandat n’affirme rien sans source et s’arrête quand la source manque. « Je ne sais pas » est un livrable acceptable. L’invention ne l’est pas.
Pour situer ce mot
Termes liés
Sources
Guillaume Aubry · Publié le · Vérifié le