Darktrace traque l’IA fantôme dans les entreprises

Adoption sans gouvernance. L’adoption de l’IA progresse plus vite que sa gouvernance dans les grandes organisations. Cette situation crée un problème de sécurité fondamental. Cisco a indiqué dans son Cybersecurity Readiness Index 2025 que 60 % des organisations ignorent les requêtes précises envoyées par leurs salariés aux outils d’IA générative. Les équipes de sécurité surveillent donc difficilement les mouvements de données. Elles identifient aussi moins bien les outils et agents actifs dans l’entreprise. Les outils de supervision traditionnels suivent surtout les logiciels connus. Ils détectent mal les usages liés à l’IA. La visibilité devient ainsi le préalable aux autres contrôles de sécurité. Lire l’analyse complète

Trois risques distincts. Le shadow AI désigne l’utilisation d’outils d’IA sans validation explicite de l’organisation. Un salarié peut copier un document dans un chatbot public pour réaliser une tâche courante. Cette pratique n’implique pas nécessairement une intention malveillante. Les fonctions d’IA intégrées aux logiciels approuvés posent un autre problème. Leur contrôle initial peut avoir précédé l’ajout de ces fonctions. Les agents autonomes constituent une troisième catégorie. Ils agissent directement dans des systèmes, des données ou des applications. Leur déploiement rapide peut devancer une procédure formelle d’examen. Un agent mal surveillé peut alors agir à la vitesse d’une machine.

Les outils classiques manquent de visibilité

Une limite architecturale. Les outils de sécurité classiques cataloguent les logiciels connus dans des emplacements attendus. Cette architecture correspond mal à la circulation des capacités d’IA dans une organisation. Un outil d’inventaire applicatif ne peut pas toujours classer le comportement d’un agent actif à l’intérieur d’une application. Les systèmes de supervision manquent aussi d’un cadre pour capturer les habitudes propres aux activités d’IA. Ces lacunes s’élargissent lorsque les usages progressent. Les équipes doivent donc suivre les capacités d’IA comme elles suivent les charges infonuagiques. Un audit unique ne suffit pas, car de nouveaux outils et de nouvelles fonctions apparaissent continuellement.

Darktrace analyse les comportements. Darktrace fournit un exemple de plateforme fondée sur une analyse comportementale multicouche. L’entreprise développe des technologies d’IA depuis 2013. Sa plateforme couvre les réseaux sur site, les applications cloud, les courriels, les systèmes de technologie opérationnelle et les terminaux. Elle apprend le comportement des appareils, des utilisateurs et des interactions observés. Cette méthode ne part pas d’une définition préalable de la menace. Elle cherche plutôt des anomalies comportementales discrètes et reliées entre elles. Les équipes peuvent ainsi examiner des activités inhabituelles sans dépendre uniquement de signatures d’attaque connues. Consulter l’article d’origine

Les agents doivent limiter leurs accès

Un inventaire toujours actif. Les équipes de sécurité doivent maintenir un inventaire vivant des capacités d’IA disponibles. Cette démarche fournit une photographie actualisée de l’environnement. Elle permet aussi de comparer les nouvelles activités avec les actifs déjà identifiés. La découverte continue reprend une discipline appliquée aux charges cloud. Chaque actif fait l’objet d’un suivi régulier, plutôt que d’une reconstruction après incident. La détection doit également combiner plusieurs niveaux d’analyse comportementale. La supervision humaine seule ne peut pas suivre le volume et la vitesse des activités d’IA. Les plateformes spécialisées peuvent donc aider à repérer des comportements inhabituels dans plusieurs points de contact de l’entreprise.