Gartner prévoit un quadruplement du coût des incidents IA

Gartner prévoit une hausse de quatre fois des coûts d’incidents entraînés par l’IA agentique d’ici 2027. Cette prévision place la sécurité logicielle au centre de l’adoption des agents autonomes. Matias Madou, expert en sécurité et cofondateur de Secure Code Warrior, décrit une progression allant des assistants simples aux agents capables d’exécuter seuls des tâches complètes. L’auteur souligne que les grands modèles de langage élargissent la surface d’attaque. Cette expansion concerne les outils autorisés et les applications introduites par les employés. Les contrôles traditionnels doivent donc suivre des usages plus nombreux et plus autonomes. La gouvernance devient un moyen de contrôler les actions permises aux agents.

SonarSource observe que les modèles Claude et Gemini figurent parmi ceux qui produisent le code le plus fonctionnel. Ces mêmes modèles génèrent aussi les vulnérabilités les plus sévères, selon l’analyse citée par Madou. Le risque ne dépend donc pas uniquement de la vitesse de production du code. Il dépend également de la capacité des développeurs à vérifier ce code. L’article recommande une meilleure visibilité sur l’usage des outils d’IA et sur les modifications intégrées. Les entreprises doivent aussi connaître leurs projets actifs, leurs risques et les compétences nécessaires. Cette compréhension permet d’adapter les contrôles de sécurité au niveau réel d’adoption.

Le modèle distingue trois phases

Le modèle proposé comprend trois phases et huit étapes observables. La phase « AI Assisted » regroupe l’usage minimal de l’IA et l’assistance supervisée. Elle correspond aux étapes 1 et 2, avec des risques faibles à modérés. Madou recommande d’y établir les règles de gouvernance. Les développeurs doivent également renforcer leurs compétences en programmation sécurisée et en revue de code. Un outil peut vérifier ces compétences, établir des niveaux de référence et suivre les progrès. La phase « AI Native » couvre les étapes 3 et 4. Les modèles travaillent alors davantage seuls. Le protocole MCP peut accroître la productivité, mais les risques deviennent élevés.

La phase agentique couvre les étapes 5 à 8, avec des niveaux de risque allant de très élevé à maximum. À l’étape 5, des agents comme Claude Code ou Gemini CLI exécutent des opérations de bout en bout. L’étape 6 introduit plusieurs agents fonctionnant en parallèle. L’étape 7 organise plusieurs agents à grande échelle. L’étape 8 demande aux développeurs de coordonner ces agents comme une équipe unifiée. Cette progression transforme aussi leur rôle. À l’étape 4, ils deviennent davantage des réviseurs que des auteurs de code. La formation doit donc inclure l’application des politiques, les fiches de risque et le suivi des validations.

Les garde-fous doivent précéder l’autonomie

Les développeurs se situent généralement entre les étapes 2 et 4, selon l’article. Cette position laisse une possibilité d’installer des garde-fous avant les niveaux d’autonomie les plus élevés. Madou recommande d’identifier d’abord le niveau actuel d’adoption. Cette évaluation doit ensuite préciser les contrôles et les compétences requis. Les équipes doivent aussi observer qui utilise l’IA, comment les outils interviennent et quel effet leurs productions ont sur le code livré. L’usage d’applications personnelles de modèles ajoute une difficulté de visibilité. Une gouvernance adaptée doit couvrir les commits, les outils employés et les opérations réalisées par les agents.

L’approche recommandée consiste à relier chaque niveau de capacité à un niveau de contrôle. Les premières étapes demandent une gouvernance précoce et une formation vérifiable. Les étapes intermédiaires exigent un suivi du protocole MCP et une détection de la confiance excessive envers les modèles. Les étapes agentiques nécessitent des règles d’application, des fiches de risque et des traces d’audit. L’article complet de SecurityWeek détaille ce modèle de maturité. SonarSource publie également son analyse des personnalités des modèles de langage. Madou conclut que la capacité et le risque du niveau suivant arriveront plus vite que prévu.