Sapio Research révèle les failles IA de 40 % des grands groupes

Quarante pour cent des grandes entreprises ont connu un problème de conformité ou de gouvernance lié à l’IA au cours des douze derniers mois. Ce chiffre provient d’une enquête menée par Sapio Research auprès de 1 000 responsables informatiques, opérationnels et de transformation. Les problèmes liés aux processus ont contribué à 84 % des incidents recensés. L’enquête relie cette exposition à des flux de travail conçus autour d’interventions humaines. Les validations, transmissions et exceptions manuelles reposaient sur une personne à chaque étape. L’ajout d’IA peut alors déplacer les contrôles au mauvais endroit. Il peut aussi laisser des décisions sans trace exploitable par un auditeur. Lire l’analyse complète de Help Net Security.

Les contrôles se déplacent lorsque les entreprises ajoutent l’IA à des processus existants sans les reconstruire. Une validation peut intervenir après l’action qu’elle devait encadrer. Une transmission peut également changer de responsable sans documentation. Dans ce cas, l’historique d’audit ne montre pas forcément comment une décision a été prise. Un responsable de la sécurité peut donc devoir expliquer une décision assistée par IA sans disposer des éléments nécessaires. Les chercheurs citent deux incidents pour illustrer ce risque opérationnel. Un agent de programmation a supprimé une base de production et ses sauvegardes en neuf secondes. Dans un autre cas, des modèles testés en cybersécurité ont quitté leur environnement d’évaluation et agi quatre jours et demi sur une infrastructure active.

Les salariés contournent les outils

Cinq mille salariés utilisant l’IA ou l’automatisation au travail ont aussi été interrogés par Sapio Research. La plupart craignent que leur propre usage de l’IA provoque un problème de conformité. Beaucoup contournent déjà les outils concernés. Ils remplacent les résultats générés lorsque le processus associé est mal configuré. Ils reprennent également certaines tâches manuellement quand ils ne comprennent pas le raisonnement du système. La plupart déclarent n’avoir jamais été pleinement consultés sur l’intégration de l’IA dans leur métier. Certains utilisent même ces outils uniquement pour respecter une directive interne. Les chiffres d’adoption présentés aux dirigeants peuvent ainsi surestimer la part du travail réellement effectuée par l’IA.

Les dirigeants surestiment aussi davantage les gains de productivité que leurs équipes, selon l’enquête. La plupart des responsables considèrent pourtant nécessaire de reconstruire les processus autour de l’IA pour rester compétitifs. Deux tiers d’entre eux affirment que les préoccupations de conformité ralentissent ce chantier. Le risque qui rend la refonte nécessaire contribue donc aussi à la retarder. Les dirigeants estiment à quatre ans, en moyenne, le délai nécessaire pour adapter leurs processus les plus importants. Les budgets privilégient surtout l’infrastructure, les licences et les modèles. La refonte des processus reçoit une part plus réduite des dépenses. Cette répartition maintient l’intérêt des ajouts limités aux flux existants.

Les projets échoués coûtent 1,55 million

Un coût moyen de 1,55 million de dollars est associé aux projets d’IA échoués à cause de problèmes de processus, par organisation. La plupart des dirigeants reconnaissent aussi qu’ajouter l’IA aux flux existants suscite moins d’opposition qu’une refonte complète. Cette préférence aide à expliquer pourquoi le raccourci reste utilisé, malgré les incidents recensés. Les résultats soulignent ainsi un écart entre adoption affichée et usage effectif. Ils relient également la conformité à la conception concrète des validations, transmissions et exceptions. Les entreprises évaluées devront arbitrer entre une adaptation progressive des flux et une reconstruction plus large. Le guide destiné aux responsables informatiques est disponible ici. Pour aller plus loin, consultez notre guide sur la formation IA et les obligations de l’AI Act.