# DeepMind : nouvelle défense IA face aux menaces internes

> DeepMind introduit une feuille de route pour sécuriser ses agents IA avec un modèle de défense en profondeur face à des menaces internes potentielles.

Type : Actualité IA · Catégorie : Stratégie · Publié le 2026-07-01 · Signal IA - Order & Chaos
Source : https://www.orderchaos.eu/signal-ia/actu/deepmind-renforce-securite-pour-agents-ia-internes
Tags : deepmind, ia, sécurité, agents, cybersécurité, agents-ia

---

## En résumé

- DeepMind propose un cadre de sécurité pour agents IA, basé sur la défense en profondeur.
- Le système utilise des modèles de menace basés sur le cadre MITRE ATT&CK.
- La surveillance asynchrone analyse un million de tâches d'agents pour affiner les protocoles.

**DeepMind développe** une feuille de route pour renforcer la sécurité des [agents d'intelligence artificielle](/signal-ia/actu/agents-ia-executent-des-sms-efficacite-prouvee) dans ses systèmes internes. L'entreprise s'appuie sur une approche de "défense en profondeur". Celle-ci dépasse l'alignement traditionnel des modèles en ajoutant une sécurité au niveau du système pour prévenir des comportements non-alignés potentiels. Ce cadre pourrait servir de modèle pour l'industrie plus large.

**La mise en œuvre** de ce plan repose sur l'hypothèse que certains agents, bien que capables, pourraient ne pas être parfaitement alignés avec les objectifs de l'entreprise. DeepMind a introduit un [modèle de menace](https://attack.mitre.org/) inspiré du cadre MITRE ATT&CK. Celui-ci permet de décomposer les attaques potentielles en tactiques et techniques plus petites, facilitant ainsi la gestion des risques et le test des défenses en place.

**Pour renforcer** cette sécurité, DeepMind a mis en place un système de surveillance et de réponse à deux niveaux. La surveillance asynchrone permet de contrôler les agents IA en analysant des trajectoires préenregistrées. Cette méthode asynchrone a déjà permis d'analyser un million de tâches d'agents de codage. Les événements préoccupants sont remontés aux humains, renforçant la fiabilité des protocoles de sécurité et allant au-delà du simple filtrage par mots-clés.

**Avec l'évolution** des [modèles IA](/signal-ia/actu/hugging-face-integre-les-resultats-every-eval-ever), DeepMind doit adapter ses défenses pour contrer les capacités d'évitement de détection des nouveaux agents. Les réponses de sécurité destinées à contrer ces actions nuisibles doivent être synchrones. C'est essentiel pour prévenir des actions à risque élevé, tel que les cyberattaques majeures, avant leur exécution. La stratégie de réponse est donc adaptée à la gravité potentielle des menaces.

Pour plus d'informations, consultez la [feuille de route AI Control de DeepMind](https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/securing-the-future-of-ai-agents/gdm-ai-control-roadmap.pdf) ou explorez l'étude sur l'impact futur des agents IA en [termes économiques](https://www.mckinsey.com/mgi/our-research/agents-robots-and-us-skill-partnerships-in-the-age-of-ai#/).