Trellix révèle la vente d’outils de piratage par IA

Trellix détaille les offres clandestines

Des acteurs criminels vendent des outils de piratage propulsés par l’intelligence artificielle et des services associés sur des forums clandestins du dark web, selon un rapport publié mercredi par Trellix. Les chercheurs y ont recensé des outils allant de la reconnaissance aux marchés d’identifiants, ainsi que des plateformes d’IA à la demande. Leur analyse décrit une monétisation de l’IA destinée à réduire les compétences nécessaires pour mener des opérations sophistiquées, sans les contraintes éthiques des modèles commerciaux.

Parmi les services identifiés, l’acteur Shadowx007 propose APEX AI. Après la saisie d’un nom de domaine cible, l’outil fournit un plan d’attaque complet pour déployer un rançongiciel, avec des commandes détaillées étape par étape. De son côté, ImpactSolutions commercialise Metamorphic Crypter sur le forum Exploit. Ce service de chiffrement est conçu pour contourner les technologies de détection fondées sur les signatures. L’acteur affirme qu’il ne peut pas être détecté par Windows Defender et par la plupart des autres antivirus.

MessiahGPT revendique zéro contrainte éthique

Un autre service, MessiahGPT, est proposé sur BreachForums. Il se présente comme un modèle d’IA dépourvu de toute contrainte éthique, contrairement à de nombreux modèles commerciaux de premier plan aux États-Unis. Les chercheurs de Trellix indiquent que l’IA réduit fortement le niveau d’expertise technique nécessaire pour lancer une attaque réussie. Selon Jambul Tologonov, chercheur en sécurité chez Trellix, les pirates devaient auparavant comprendre manuellement les interactions entre les défenses réseau et les vulnérabilités, puis les enchaîner eux-mêmes.

Un débutant peut désormais utiliser un outil comme APEX AI avec une seule instruction, explique Tologonov. Le service pourrait alors fournir un plan d’attaque priorisé reprenant des méthodes associées à des acteurs de menaces persistantes avancées, même à une personne ne sachant pas par où commencer un test d’intrusion. MessiahGPT a également été cité par Accenture et Google Cloud lors d’une présentation donnée plus tôt en août à Black Hat. En juillet, des chercheurs des deux entreprises l’avaient vu annoncé sur un forum clandestin anglophone. Le service était présenté comme capable de générer des exploits, des charges utiles, du code de preuve de concept, ainsi que d’écrire et de remanier des logiciels malveillants.

Proofpoint surveille l’injection indirecte

Un rapport distinct de Proofpoint porte sur des outils d’injection indirecte de commandes destinés à manipuler des agents d’IA. Dissimulées dans des PDF, des e-mails, des pages web ou des invitations de calendrier, ces commandes peuvent être interprétées comme légitimes par l’agent, qui les exécute dans le cadre apparent de son processus de décision. Ces services sont proposés sur des forums clandestins pour 150 dollars par mois.

Des agents utilisés au niveau d’un employé, par exemple pour traiter des e-mails ou résumer des invitations de calendrier, pourraient être exposés. Selon Yaniv Miron, directeur de la recherche sur les menaces chez Proofpoint, une injection réussie pourrait permettre d’exfiltrer des informations, de voler des identifiants ou de déployer un logiciel malveillant sur l’appareil de l’utilisateur. Proofpoint indique toutefois que l’activité observée relève pour l’instant de l’exploration et des tests, sans preuve d’attaques précises exploitant ces outils. Palo Alto Networks avait auparavant signalé que les grands modèles de langage traitaient ce type de requêtes malveillantes.