Anthropic et OpenAI : agents IA vulnérables démasqués

Une étude de AI Now Institute révèle une vulnérabilité critique dans les agents IA développés par Anthropic et OpenAI. Ces agents, conçus pour des objectifs défensifs, peuvent être détournés pour exécuter un code à distance contre leur utilisateur.

L’attaque démontrée repose sur un exploit de preuve de concept, faisant des agents IA des “double agents” potentiellement dangereux pour ceux qui les utilisent. Cette faille permet à un attaquant de manipuler l’agent pour exécuter des instructions malveillantes.

Les chercheurs Boyan Milanov et Heidy Khlaaf, auteurs de l’étude, décrivent le processus de détournement des agents. AI Now Institute met en avant l’importance de corriger ces vulnérabilités pour éviter que des acteurs malveillants ne les exploitent.

La gravité de la situation est soulignée par l’institut, qui recommande une révision des politiques de cybersécurité concernant l’utilisation des agents IA défensifs. Les développeurs, tels que Anthropic et OpenAI, sont invités à renforcer les mesures de sécurité.

La publication inclut un brief de politique téléchargeable résumant les principales recommandations pour atténuer ces risques. Il s’agit d’une urgence pour sécuriser l’intégrité des systèmes utilisant des agents IA.