Hestia.gtm ai agency
Menu

Les mots du marché

Qu’est-ce qu’une hallucination d’IA ?

Réponse courte

Une hallucination est une affirmation produite par un modèle, plausible à la lecture, mais fausse ou soutenue par aucune source.

Explication

Le modèle ne ment pas, il complète. Il produit la suite la plus probable d’un texte. Quand l’information lui manque, la suite la plus probable reste une phrase bien tournée : un chiffre rond, une référence qui sonne juste, une date crédible.

Le danger vient du ton. Une hallucination est écrite avec la même assurance qu’un fait.

On la réduit en donnant au modèle des sources à citer, en l’autorisant à dire qu’il ne sait pas, et en vérifiant ce qui compte.

Exemple

Cas d’école

Un agent à qui l’on demande le tarif d’un client, sans accès au contrat, peut répondre un montant vraisemblable. Dans une entreprise, ce montant inventé devient une facture fausse.

Confusion fréquente

Croire que les modèles récents n’hallucinent plus. Ils le font moins souvent. Ils le font encore.

Comment une réponse peut sembler juste sans l'être

Un modèle de langage complète un texte avec la suite la plus probable : explication pédagogique, pas description exhaustive du fonctionnement interne. Le risque métier est un ton assuré alors que la source manque.

Parades prévues dans un mandat Hestia

Les parades annoncées passent par des sources identifiées et par l'acceptation d'un « je ne sais pas » lorsqu'aucune source ne tient. L'agent s'arrête lorsqu'aucune source identifiée ne soutient une affirmation. Envoi, paiement, publication et suppression restent des exemples d'actes souvent soumis à validation humaine dans un mandat.

Lien avec le second cerveau gouverné

Un second cerveau gouverné conserve des faits sourcés et leur provenance. Une trace brute ingérée ne devient pas automatiquement un fait durable.

Cas Les Gaspard (tarif client)

Sans contrat, un montant plausible peut être faux : l'étude facturation en fait un cas d'école. Un écart tarifaire 9,27 versus 18,08 est documenté. Les corrections à la source citées dans l'étude facturation concernent notamment des volumes inventés, distinctes de cet écart unitaire.

Modèles récents

Les modèles récents hallucinent encore.

RAG et mandat

Le terme RAG est relié aux autres définitions du lexique public. Sous mandat, seules les sources identifiées et l'arrêt en l'absence de preuve comptent pour limiter les affirmations non fondées.

Dans un mandat

Un agent sous mandat n’affirme rien sans source et s’arrête quand la source manque. « Je ne sais pas » est un livrable acceptable. L’invention ne l’est pas.

Guillaume Aubry · Publié le · Vérifié le