John Sumser pointe l’effet domino des agents IA

John Sumser consacre son article du 13 octobre 2026 aux erreurs susceptibles de survenir au niveau des systèmes d’intelligence artificielle. Il affirme que les agents individuels échouent à des taux prévisibles. Selon lui, tous finissent par rencontrer une défaillance. Une collection d’agents échoue encore plus souvent que ses composants pris séparément. John Sumser présente cette situation comme un problème d’ingénierie relativement soluble. Il rattache aussi la préparation aux risques à l’adoption progressive de l’IA générative. L’auteur invite à anticiper les événements probables, plutôt qu’à considérer cette démarche comme une inquiétude irrationnelle. L’objectif consiste à intégrer une nouvelle technologie au moyen de principes d’ingénierie connus.

Les erreurs ne surviennent pas isolément, selon John Sumser. Elles peuvent se propager d’un événement au suivant. L’auteur illustre cette dynamique avec une crevaison qui entraîne un retard à une réunion. Ce retard oblige ensuite à réorganiser les calendriers des participants. Une chaîne de conséquences peut donc partir d’un incident limité. John Sumser précise toutefois que toutes les cascades d’erreurs ne produisent pas nécessairement des résultats négatifs. Une rencontre imprévue peut créer une occasion favorable, comme la découverte accidentelle d’un restaurant apprécié. Pour lui, la valeur de la planification réside dans la réflexion sur les échecs probables et leurs conséquences, non dans le document lui-même.

Les agents amplifient les défaillances

La préparation augmente, selon l’auteur, la probabilité d’une issue positive sans constituer une garantie. John Sumser indique qu’une compréhension des défaillances probables aide à réfléchir pendant une crise inévitable. Son article renvoie à un tableau consacré aux fonctionnalités de gouvernance de l’IA que les organisations peuvent anticiper. Ce tableau décrit les risques, explique leur importance et propose des approches pour les traiter. L’auteur précise que cette présentation n’est pas exhaustive. Elle vise plutôt certains risques considérés comme importants. L’article complet est disponible sur HR Examiner, tandis que John Sumser publie également sur Substack.

La gouvernance de l’IA combine, selon John Sumser, gouvernance organisationnelle et ingénierie. L’auteur affirme que l’IA accélère et étend les erreurs déjà commises par une organisation. Il estime que plusieurs récits préoccupants sur l’IA relèvent surtout de défaillances de gouvernance ou d’ingénierie. Ces défaillances auraient été permises, voire encouragées, par la culture des organisations concernées. L’IA expose aussi les faiblesses présentes dans les cultures et les bureaucraties. John Sumser cite plusieurs origines possibles, dont l’ignorance, la volonté, les budgets, les priorités, l’arrogance et l’incapacité à sortir des cadres habituels. Il ne réduit donc pas le risque aux seuls modèles.

L’IA révèle les faiblesses organisationnelles

Le risque se situe, selon John Sumser, au niveau le plus bas atteint par les flux d’IA dans une organisation. Cette analyse exige une connaissance détaillée des données et de leurs structures. Elle demande aussi une compréhension approfondie des métiers individuels. L’auteur y ajoute une vision systémique des conséquences possibles. Ces éléments relient directement les erreurs techniques aux pratiques organisationnelles. Ils rendent l’analyse dépendante du fonctionnement concret des équipes et des procédures. John Sumser présente ainsi la gouvernance de l’IA comme un travail d’observation des interactions entre agents, systèmes, données et culture. La planification sert alors à améliorer les chances de réponse lorsque survient une défaillance.