# Patrick Joubert pointe le mur entre pilotes et production > Patrick Joubert défend un contrôle indépendant des agents IA pour bloquer les actions dommageables et restaurer la confiance avant la production. Type : Actualité IA · Catégorie : Stratégie · Publié le 2026-08-18 · Signal IA - Order & Chaos Source : https://www.orderchaos.eu/signal-ia/actu/patrick-joubert-veut-controler-chaque-action-des-agents-ia Tags : agents ia, gouvernance, confiance, automatisation, agents-ia, raisonnement, ia-entreprise, llm --- ## En résumé - Les pilotes d’agents IA restent impressionnants, mais leur fiabilité demeure insuffisante pour la production. - Une infrastructure indépendante peut attribuer un feu vert, orange ou rouge à chaque action envisagée. - Patrick Joubert estime que le contrôle opérationnel peut élargir les usages créatifs et stratégiques des agents. **Le signal :** Patrick Joubert propose une infrastructure indépendante pour évaluer chaque action d’un agent IA avant son exécution. **Patrick Joubert alerte** sur le décalage entre les pilotes d’[agents IA](/signal-ia/actu/agent-ia-54pourcent-des-entreprises-face-a-un-defi-securitaire) et leur passage en production. Le fondateur de Rippletide observe des démonstrations impressionnantes, mais une fiabilité encore insuffisante. De nombreuses organisations partagent ce constat, selon son analyse publiée par [Maddyness](https://www.maddyness.com/?p=1440660). Le doute porte aussi sur les coûts et sur l’aspect humain. Ces incertitudes ralentissent l’adoption de l’IA, d’après l’auteur. Elles creusent également un fossé entre les entreprises déjà engagées et les autres. Pour Patrick Joubert, l’enjeu ne consiste donc pas seulement à améliorer les performances des modèles. Il faut surtout empêcher les agents de prendre des décisions dommageables. **Les modèles restent probabilistes** parce que les agents reposent sur des modèles de langage. L’amélioration des modèles, des données et des prompts reste importante, mais elle ne supprime pas entièrement le risque d’erreur. Patrick Joubert décrit un agent comme un collaborateur rapide, infatigable et sûr de lui, mais capable de se tromper lourdement. Cette comparaison déplace le sujet vers le management et les métiers. Une entreprise ne peut pas laisser carte blanche à un système doté de capacités d’exécution élevées. Elle doit définir les limites applicables à ses actions. Selon l’auteur, la priorité consiste ainsi à évaluer les actions envisagées avant leur exécution, plutôt qu’à rechercher uniquement davantage de performance. ## Les agents doivent contrôler leurs actions **Les règles doivent précéder l’exécution** pour bloquer les actions inadéquates. Une action peut découler d’une hallucination grossière, mais elle peut aussi sembler raisonnable tout en violant une réglementation, une règle éthique ou la stratégie de l’organisation. Patrick Joubert cite le cas d’une banque. Un agent pourrait déclencher un virement légitime en apparence, mais dépasser un seuil de délégation ou un contrôle anti-blanchiment. Dans la santé, il pourrait recommander un médicament pour un usage non autorisé. Ces deux exemples montrent l’intérêt d’une évaluation préalable. Le contrôle doit examiner la légitimité et la pertinence de chaque action dans son contexte avant d’autoriser son automatisation. **Une infrastructure indépendante** peut synthétiser les règles écrites et non écrites d’une organisation. Patrick Joubert associe cette base à une ontologie, comparable au bagage d’un collaborateur chevronné. Elle reste détachée du modèle de langage et joue le rôle d’un garde-fou opérationnel. Le système peut alors attribuer trois issues à une action. Le feu vert autorise l’exécution automatique. Le feu orange impose un contrôle humain préalable. Le feu rouge interdit l’action. Cette architecture vise un fonctionnement déterministe, maîtrisé, explicable et cohérent avec les orientations de l’entreprise. L’auteur présente cette approche comme une manière de rendre l’agentique compatible avec les exigences concrètes des métiers. ## Le contrôle élargit les usages **La [confiance](/signal-ia/actu/contexte-ia-57pourcent-des-entreprises-face-a-un-defi-majeur) conditionne l’ambition** des cas d’usage retenus par les métiers, selon Patrick Joubert. Dans un climat de défiance, les organisations privilégient les tâches simples, faciles à vérifier et à corriger manuellement. Elles recherchent alors surtout des gains de productivité, avec des agents utilisés comme un « super-RPA ». À l’inverse, un contrôle capable de prévenir les impairs peut autoriser des usages plus audacieux. L’auteur estime que les agents peuvent alors soutenir la créativité, l’analyse, le raisonnement et l’action. Il associe ces capacités à des transformations possibles de la relation client, de la conception des produits et des modèles d’affaires. Ces bénéfices restent toutefois conditionnés au contrôle opérationnel. **La prochaine étape consiste** à intégrer ce garde-fou avant chaque action sensible, plutôt qu’à confier davantage d’[autonomie](/signal-ia/actu/agents-ia-qui-brillera-dans-cette-nouvelle-ere) aux agents sans supervision. Patrick Joubert défend une infrastructure qui combine connecteurs, actionneurs et règles métier contextualisées. Son objectif est de remplacer un fonctionnement probabiliste et risqué par des décisions cohérentes avec l’organisation. La source ne fournit toutefois ni calendrier de déploiement, ni mesure chiffrée de performance pour Rippletide. Elle présente une orientation de gouvernance, et non un résultat démontré dans un secteur précis. Pour approfondir cette position, consultez la [publication originale de Patrick Joubert](https://www.maddyness.com/?p=1440660), consacrée au contrôle des agents IA.