Palo Alto Networks relativise la menace des malwares dopés à l’IA

Palo Alto Networks a analysé 405 échantillons de malwares associés d’une manière ou d’une autre à l’intelligence artificielle. L’étude a été menée par l’équipe Unit 42. Les fichiers incluaient des rançongiciels partiellement écrits avec l’aide de grands modèles de langage. Ils comprenaient aussi des installateurs utilisant simplement le nom d’une application d’IA connue. Environ 97 % des échantillons sont restés dans un bac à sable, un dépôt de recherche ou un environnement de test interne. Seuls 12 hachages sont apparus sur des terminaux actifs. Un groupe légèrement plus large, évalué entre 15 et 20 hachages, est apparu dans des flux réseau analysés en bac à sable. Lire l’analyse de Unit 42 et l’article de SecurityWeek.

Les résultats proviennent du rapprochement des hachages avec plusieurs sources de télémétrie. Unit 42 a utilisé les données des terminaux, les sessions réseau envoyées pour analyse et les alertes internes générées lorsqu’un fichier s’exécutait réellement. Chaque échantillon détecté sur un terminal protégé a déclenché une alerte de sécurité. Les 12 échantillons actifs couvraient cinq familles de malwares et trois pays. L’équipe n’a identifié aucune concentration particulière dans un secteur ou une région. Ces observations décrivent donc une présence limitée dans les environnements actifs étudiés. Elles distinguent aussi les fichiers testés ou publiés à des fins de recherche des malwares ayant effectivement atteint une cible.

Unit 42 distingue trois catégories

Les fichiers isolés forment trois groupes parmi les échantillons qui n’ont pas atteint la production. Le plus important rassemble des preuves de concept conçues pour démontrer une technique. Ces codes ciblaient uniquement des réseaux locaux ou privés. Ils contenaient aussi des sorties de débogage qu’un attaquant réel aurait peu de raisons de conserver. Un laboratoire de recherche ou une université les avait parfois téléversés une seule fois. Un deuxième groupe correspondait à des organisations testant leurs défenses avec des malwares liés à l’IA déjà signalés. Les téléversements répétés du même fichier, depuis une même source et sur une courte période, permettaient de les identifier. Un troisième groupe utilisait l’IA comme appât commercial.

Les faux installateurs habillaient des charges utiles ordinaires avec le nom de produits d’IA connus. Ils n’intégraient aucune fonctionnalité d’IA réelle. Parmi les 12 fichiers apparus sur des terminaux actifs, FunkSec était la famille la plus fréquente. Plusieurs chercheurs l’ont associée à une aide de grands modèles de langage. Les noms de fichiers internes montraient que son développeur changeait plusieurs fois le nom du même rançongiciel. Unit 42 juge ce rythme plus compatible avec une génération guidée par des invites qu’avec un cycle de développement traditionnel. L’échantillon le plus répandu se présentait comme une application de recettes appelée Recipe Lister. Il possédait une signature numérique et lançait discrètement une porte dérobée après l’installation.

Les alertes ont bloqué les échantillons

Recipe Lister s’est propagé dans plus de 50 organisations. Il a généré environ 6 500 enregistrements de terminaux et près de 9 600 alertes. Sa signature avait d’abord évité les soupçons. Un signataire inhabituel, associé à des contenus fortement empaquetés, a ensuite permis sa détection. Une autre souche, la porte dérobée Oyster, se présentait comme un installateur Dropbox. Sa signature indiquait Dropbox comme éditeur. Unit 42 indique que les attaquants utilisent de plus en plus des outils d’IA pour générer ce type de code de diffusion. L’équipe associe cette pratique à une capacité accrue à établir rapidement et à moindre coût un premier accès. Le résultat rapporté concerne la vitesse de production, pas le taux de réussite.