Insee pointe les limites des défenses standard de l’IA

Adoption en hausse L’intelligence artificielle est utilisée par 18 % des organisations de plus de 10 salariés, selon une étude de l’Insee. Cette progression place la sécurisation des données et des flux au centre des décisions professionnelles. Les fournisseurs de modèles intègrent leurs propres mécanismes de protection. Ces barrières standards visent toutefois d’abord la responsabilité des éditeurs. Elles ne couvrent donc pas nécessairement les risques métiers propres à chaque utilisateur. Le texte attribué à Frederic Tak-Kit Ong, Country Manager France de Netskope, recommande ainsi des garde-fous définis par les entreprises. Cette approche doit compléter les protections natives, plutôt que les considérer comme suffisantes.

Des contrôles différenciés Les besoins varient selon les profils et les activités. Les chercheurs en cybersécurité doivent pouvoir s’appuyer sur les modèles pour leurs recherches. Des restrictions trop fortes peuvent les conduire à contourner les protections ou à changer de modèle, selon l’analyse présentée. Les ressources humaines nécessitent au contraire un contrôle plus strict face à un large éventail de contenus malveillants. Les ingénieurs logiciels doivent empêcher l’insertion de code malveillant ou vulnérable dans la base de code. Les garde-fous personnalisés permettent donc d’attribuer des niveaux de protection différents à ces groupes. Cette segmentation vise les actifs de l’entreprise, et non les seuls intérêts du fournisseur.

Les équipes SecOps gagnent en visibilité

Des flux mieux observés Certaines entreprises utilisent plus de 100 modèles et versions répartis chez plusieurs prestataires. Les garde-fous propres peuvent appliquer une politique uniforme malgré cette diversité. Les protections des fournisseurs fonctionnent souvent comme des boîtes noires. Elles répondent par un refus générique ou une dégradation silencieuse des réponses. Les équipes SecOps ne savent alors pas toujours quel utilisateur rencontre un blocage, à quelle fréquence, ni quelle règle se déclenche. Elles ne voient pas non plus si la personne abandonne sa requête ou persiste. Une infrastructure personnalisée fournit ces éléments d’observation et aide à évaluer le risque associé à chaque utilisateur.

Un périmètre élargi Les protections natives se concentrent généralement sur le modèle lui-même. Elles n’analysent pas nécessairement les serveurs MCP utilisés par les agents, ni les autres outils sollicités durant le processus. Des garde-fous propres peuvent inspecter l’ensemble de ces échanges. Ils répondent aussi aux risques d’injection indirecte de requêtes et d’empoisonnement de contexte inter-origines. Ces techniques peuvent permettre à des attaquants externes d’exploiter le LLM d’une victime pour causer des dégâts ou dérober des données sensibles. Les organisations craignent également des modèles compromis, capables de produire des contenus inappropriés ou d’insérer du code malveillant dans leurs réponses.

Les règles combinent plusieurs méthodes

Des règles complémentaires Les fournisseurs utilisent des classificateurs probabilistes fondés sur des LLM pour filtrer les contenus. Les experts en cybersécurité critiquent ce fonctionnement pour ses faux positifs. La persévérance peut aussi suffire à déjouer certaines protections, selon l’analyse publiée. Les garde-fous personnalisés combinent des règles déterministes et des classificateurs basés sur les LLM. Les expressions régulières, la correspondance exacte de données et les empreintes numériques peuvent détecter des informations sensibles avant leur sortie du réseau. D’autres règles peuvent repérer les contenus malveillants ou inappropriés avant leur réinjection dans le réseau depuis le LLM. Netskope présente cette combinaison comme une défense plus prévisible et flexible.