La validation humaine est une fonctionnalité

On se représente volontiers des agents IA qui font tourner une entreprise tout seuls : ils lisent les messages, décident, répondent, mettent à jour les dossiers, déplacent de l’argent. Les démonstrations sont impressionnantes. Faire fonctionner une vraie activité de cette façon est une autre affaire.

Dans les systèmes que nous construisons pour nos propres entreprises, l’IA accomplit beaucoup de travail. Elle classe les messages entrants, extrait des informations, rédige des réponses et suggère les étapes suivantes. Mais tout ce qui a des conséquences passe d’abord par une personne. Nous voyons cette étape de validation comme une fonctionnalité, pas comme une limite.

Là où l’IA mérite sa place

Les meilleurs usages que nous ayons trouvés sont les étapes répétitives, chargées d’information, qui ralentissent une activité : lire le message d’un client et comprendre ce qu’il veut, retrouver la commande concernée, extraire les informations utiles, préparer une réponse. L’IA fait cela vite et, la plupart du temps, bien, et une personne peut vérifier le résultat en quelques secondes.

C’est un véritable effet de levier. Une petite équipe peut traiter beaucoup plus de conversations sans perdre en qualité, parce que le système prépare et que la personne décide.

Pourquoi l’humain reste

Il y a trois raisons. D’abord, les erreurs sont asymétriques : une mauvaise réponse à un client, un remboursement en double ou un enregistrement erroné coûte plus cher que le temps gagné en sautant une vérification. Ensuite, la confiance : clients et partenaires doivent savoir qu’une personne répond de ce que l’entreprise dit et fait. Enfin, l’apprentissage : lorsque des personnes valident et corrigent, l’activité apprend à quoi ressemble un bon résultat, et ce savoir appartient à l’entreprise, pas à un fournisseur de modèles.

Concevoir pour la validation

La validation humaine ne fonctionne que si elle est prévue dès la conception. Dans Operanto, la couche opérationnelle que nous développons pour nos entreprises, quelques règles en découlent :

• Les messages sont d’abord enregistrés, puis traités, si bien que rien ne se perd si une étape échoue.
• L’automatisation sortante est désactivée par défaut et doit être activée délibérément.
• Les messages sortants à fort enjeu exigent la validation d’une personne.
• Chaque action est journalisée : qui l’a demandée, ce qui a été fait et pourquoi c’était autorisé.
• Le fournisseur d’IA peut changer sans qu’il faille reconstruire le workflow.

L’autonomie se gagne, étape par étape

Rien de tout cela ne signifie que le système ne pourra jamais agir seul. Certaines étapes se révéleront assez fiables pour que la validation n’apporte plus rien, et celles-ci pourront être automatisées en confiance, parce qu’une trace montre pourquoi. L’autonomie se gagne étape par étape, preuves à l’appui. C’est plus lent qu’une démonstration. C’est aussi ainsi qu’une entreprise finit par disposer d’une automatisation sur laquelle elle peut compter.