Nishant Doshi distingue précision et fiabilité des agents IA

Nishant Doshi a publié le 2 novembre 2026 un article consacré à la sécurisation des agents IA. Il est PDG de Cyberhaven. Son analyse distingue deux propriétés souvent rapprochées dans l’évaluation d’un agent. La précision et la fiabilité ne désignent pas la même chose, selon lui. Cette distinction place la confiance au centre de l’usage des agents autonomes. Doshi formule également une limite concernant les contrôles classiques. Plus un agent dispose d’autonomie, moins une vérification unique des permissions permet de comprendre son comportement. L’analyse met donc l’accent sur la capacité à suivre les données et leur parcours. Elle s’appuie sur des recommandations de gouvernance des données et de gestion des risques liées à l’IA générative.

La confiance ne se résume pas à mesurer la justesse d’une réponse produite par un agent. Nishant Doshi affirme que la précision et la fiabilité constituent des propriétés différentes. Il relie cette distinction à l’autonomie accordée aux agents. Selon lui, l’augmentation de cette autonomie réduit ce qu’un seul contrôle de permission peut révéler. Une autorisation ponctuelle ne suffit donc pas à décrire tout le parcours d’une action. Cette lecture déplace l’attention vers les données manipulées, leur origine et leurs transformations. Elle concerne directement les organisations qui souhaitent rendre leurs systèmes d’IA plus responsables. Cyberhaven présente cette traçabilité comme un moyen de renforcer la responsabilité sans ralentir les agents.

Le NIST demande la traçabilité

Le profil IA générative du NIST demande de documenter et de suivre les sources de données ainsi que leur provenance. Nishant Doshi s’appuie sur cette recommandation pour relier la gouvernance documentaire à la sécurité des agents. Le profil IA générative du NIST fournit le cadre cité dans son analyse. La provenance décrit l’origine des données et leur parcours au fil des transformations. Cette information complète les contrôles d’accès lorsqu’un agent agit avec davantage d’autonomie. Elle permet aussi de relier une sortie à des données suivies. Doshi présente cette approche comme une condition de responsabilité accrue pour les systèmes d’IA utilisés par les organisations.

Cyberhaven suit le cycle de vie complet des données, selon Nishant Doshi. Cette traçabilité couvre leur parcours depuis l’origine jusqu’aux transformations successives. Elle donne aux organisations un moyen d’examiner les données mobilisées par un agent. Doshi affirme que les organisations capables de suivre ce parcours peuvent rendre l’IA plus responsable sans la ralentir. Son analyse associe donc la provenance des données à la responsabilisation des systèmes. Cyberhaven détaille également cette approche dans son article sur la traçabilité des données. L’entreprise publie aussi une analyse consacrée à la dérive d’intention des agents IA.

Cyberhaven relie origine et transformation

L’approche défendue par Doshi relie trois éléments précis : l’autonomie de l’agent, les permissions et la provenance des données. Une permission isolée fournit moins d’informations lorsque l’agent dispose d’une autonomie plus large. Le suivi du cycle de vie ajoute alors une visibilité sur les données utilisées et transformées. Cyberhaven affirme tracer ce cycle complet. Doshi soutient que cette capacité permet aux organisations de renforcer la responsabilité de l’IA sans ralentir son fonctionnement. Son article, publié le 2 novembre 2026, présente cette traçabilité comme un complément aux contrôles classiques. La démarche s’appuie sur le profil IA générative du NIST, qui demande de documenter les sources et leur provenance.