Repartage — contenu de David Martineau
« La partie tech, c'est réglé. Ce que je ne sais pas, c'est qui je dois recruter, et qui est responsable quand l'agent se trompe »… J'entends cette phrase, ou presque, à chaque premier rendez-vous sur le pilotage des agents. Et dans la plupart des cas, aucun métier n'a fixé de KPI de réussite, parce que le projet vient d'en haut et que tout le monde y va.
Ma réponse tient en une lettre : le A du RACI.
Un seul Accountable par activité. Celui qui porte la décision, à ne pas confondre avec le R, qui fait le travail.
Qu'est-ce que ça change concrètement ? Une control tower, avant d'être un outil, c'est un RACI. Et qu'un agent sans responsable nommé, sans le A qui rend des comptes, c'est un agent que personne n'éteindra.
Il n'y a que trois façons pour un agent de mal fonctionner. Et pour chacune, une seule personne capable de dire pourquoi :
→ il coûte trop cher pour ce qu'il fait : seul le data scientist peut expliquer la dérive (modèle trop gros, reprise de contexte, boucles)
→ il ne va pas au bout, ou il répond à côté : seul le métier peut dire si le résultat est bon, et fixer le seuil de réussite
→ il fait ce qu'on ne lui a pas demandé, il touche une donnée hors périmètre: c'est la cyber, et au bout de la chaîne, le CTO
Trois questions, trois responsables.
C'est le modèle que nous avons installé chez une banque mutualiste (gouvernance IA et AI Act, depuis un an), un assureur en Asie, et un équipementier sportif américain pour les agents que ses métiers fabriquent eux-mêmes. À chaque fois, la première semaine sert à une seule chose : trouver, pour chaque agent, la personne qui rend des comptes.
Ce que ça donne quand on le formalise, et oui, ça ressemble à un dossier RH:
✔ une fiche de poste : ce que l'agent fait, son niveau d'autonomie (lecture seule, exécution sous validation, autonomie bornée), ses outils
✔ un onboarding : il s'enregistre, reçoit un identifiant unique, et le garde sur chaque appel
✔ une période d'essai de trois mois avec revue humaine des réponses
✔ une évaluation annuelle, parce que vos process changent et que l'agent doit suivre
✔ un dossier disciplinaire : les écarts, leur gravité, et la décision (recoder, mettre en pause, retirer)
✔ un statut pour les « contractors » : les agents embarqués dans votre CRM ou votre ERP n'ont pas rempli votre formulaire, mais ils sont quand même dans votre SI
Les analystes recommandent une identité unique par agent, rattachée à un propriétaire responsable, et notent que seuls 13 % des RSSI se disent responsables de la gouvernance de l'usage de l'IA. Autrement dit : ce n'est pas au RSSI de porter tout ça, et c'est tant mieux.
Avec pour objectif de savoir répondre à la question : « Qui est responsable de cet agent ? »
Et chez vous, qui rend des comptes pour chaque agent ?
#IA #AgentsIA #GouvernanceIA
Sia Marine Folk Cyril Sayada Barsaoui Fares Jérôme Delamarche Romain BIGNOTTI
Sources LinkedIn
- Conversation LinkedIn : voir la publication
- Profil : Pierre Jean Duvivier dit Sage (LinkedIn)
- Auteur partagé : David Martineau (LinkedIn)
