Qu’est-ce qu’une validation humaine ?

Explication

L’anglais dit human in the loop. Nous disons validation. Certains actes coûtent trop cher en cas d’erreur pour être laissés à l’agent seul : envoyer une facture, payer, publier, supprimer.

Une validation porte sur un acte précis et sur une version précise. L’accord donné hier sur un brouillon ne vaut pas pour le brouillon modifié d’aujourd’hui.

Le règlement européen sur l’IA en fait une obligation pour les systèmes à haut risque. Son article 14 l’appelle contrôle humain.

Exemple

Pour la paie des Gaspard, l’agent prépare les bulletins. La soumission reste humaine, à chaque fois. Étude de cas : la paie des Gaspard

Confusion fréquente

Croire qu’un humain qui clique « oui » sans lire exerce un contrôle. Une validation utile montre ce qui change et d’où viennent les chiffres. Elle laisse le temps de refuser.