Nokia Bell Labs teste la 6G contre l’injection d’intentions

Nokia Bell Labs et l’Université d’Ottawa étudient une menace appelée injection adversariale d’intentions pour les réseaux 6G natifs de l’IA. Leur analyse porte sur les réseaux fondés sur les intentions, qui permettent à un opérateur d’indiquer un résultat attendu. Un logiciel traduit ensuite cette demande en politique réseau. Les chercheurs ont évalué deux détecteurs sur 1 100 intentions construites pour l’étude. Une partie de ces intentions a été produite avec l’aide d’un grand modèle de langage. Les résultats décrivent donc les performances observées sur ce jeu de données précis. L’étude est publiée dans cet article de recherche et relayée par Help Net Security.

Une clé compromise peut permettre à un attaquant de soumettre des intentions qui ressemblent à des mises à jour ordinaires. Ces demandes sont souvent écrites en JSON lisible par une machine. Le système les accepte ensuite avant de les convertir en politiques réseau. Les auteurs décrivent cette méthode comme une dissimulation d’instructions malveillantes parmi des instructions légitimes. Ils citent comme conséquences possibles le déni de service, l’élévation de privilèges, la redirection du trafic et les portes dérobées. Les expériences menées se concentrent toutefois sur la détection des intentions injectées. Les chercheurs ont créé 20 intentions d’attaque initiales, puis neuf variantes de chacune, notamment autour de l’hameçonnage et de l’exfiltration de données.

Les chercheurs analysent les séquences

Quatre rythmes ont servi à tester le comportement des détecteurs. Les intentions malveillantes arrivaient selon une cadence moyenne fixe, de manière aléatoire, à un rythme accéléré ou à un rythme ralenti. Les modèles examinaient des séries courtes de requêtes consécutives, jusqu’à six éléments. Ils signalaient les séries susceptibles de contenir une intention malveillante, afin qu’une personne puisse les examiner. Les séries plus longues amélioraient généralement les résultats, avec quelques exceptions. Un détecteur apprenait à partir d’exemples étiquetés comme sûrs ou malveillants. L’autre apprenait seulement l’activité normale et signalait les écarts, ce qui vise les équipes connaissant encore peu les formes possibles d’attaque.

Les performances varient selon le rythme des attaques. Le premier détecteur a identifié entre 75 % et 96 % des séries contenant des requêtes malveillantes. Le résultat dépendait du schéma d’arrivée utilisé. Le second détecteur a obtenu le meilleur résultat parmi les méthodes testées dans trois des quatre schémas. Il rencontrait toutefois davantage de difficultés avec les attaques à cadence fixe. Il manquait environ un tiers des séries concernées. Les deux détecteurs dépassaient l’ancien modèle, qui évaluait chaque requête séparément. Ce modèle signalait environ 50 % à 60 % des cas malveillants selon les quatre schémas étudiés.

Les chercheurs préparent de nouveaux tests

Les mots seuls ont fourni un repère limité. Les chercheurs ont construit un classificateur fondé sur 88 termes considérés comme fortement discriminants. Sur l’ensemble des données, ce système n’a détecté qu’environ 10 % des intentions malveillantes. En revanche, 96 % des intentions qu’il signalait portaient une étiquette malveillante. Pour mesurer l’effet de l’ambiguïté, l’équipe a aussi reclassé 40 intentions malveillantes comme bénignes. Elle a parallèlement reclassé 90 intentions bénignes comme malveillantes. Ces choix ont permis de tester les détecteurs dans un jeu de données comportant des étiquettes volontairement ambiguës, plutôt que de s’appuyer uniquement sur des mots révélateurs.

Les prochaines étapes annoncées par l’équipe portent sur des configurations JSON plus variées. Les chercheurs veulent ainsi mieux représenter les politiques utilisées dans des déploiements réels de réseaux fondés sur les intentions. Ils prévoient également d’ajouter des méthodes d’IA explicable. Leur objectif déclaré est de rendre les décisions de détection plus faciles à interpréter. Les résultats actuels concernent les 1 100 intentions construites pour l’évaluation. Ils comparent des analyses de séquences à une détection requête par requête. Pour les opérateurs, l’étude met surtout en évidence le rôle de la cadence des demandes et de l’examen humain des séries signalées.