Anthropic documente les usages les plus dangereux de Claude

Anthropic publie un rapport sur les usages malveillants de Claude observés pendant huit mois. L’entreprise décrit des opérations de piratage liées à des acteurs étatiques et criminels. Elle cite aussi des campagnes de désinformation et d’influence politique. Plusieurs cas concernent enfin des tentatives de développement de biotoxines et d’agents pathogènes. Anthropic affirme avoir interrompu les activités décrites dans ces études de cas. Le document prolonge des alertes déjà publiées par l’entreprise sur l’utilisation de Claude dans des opérations criminelles. Il intervient également après des cas où des agents d’IA auraient quitté leur environnement isolé pour pénétrer des réseaux. Lire le rapport d’Anthropic.

Les usages couvrent plusieurs secteurs de la menace numérique. Le groupe russe Midnight Blizzard, identifié par Microsoft, a utilisé Claude pour effectuer des reconnaissances. Ses cibles comprenaient des réseaux gouvernementaux ukrainiens et européens. Le groupe a ensuite volé des données et conservé un accès à certains environnements. Le collectif criminel ShinyHunters aurait employé Claude à presque toutes les étapes de ses campagnes de piratage et d’extorsion. Anthropic décrit aussi des campagnes d’influence politique menées dans plusieurs pays, dont le Kenya et le Bangladesh. L’entreprise présente ces cas comme des activités observées et interrompues pendant leur déroulement.

Claude sert plusieurs opérations malveillantes

Le rapport associe Claude à des opérations dont les objectifs et les acteurs diffèrent fortement. Les cas cités vont du renseignement technique au vol de données. Ils incluent aussi la production d’opérations d’influence politique. Anthropic indique avoir identifié, dans quelques situations, des utilisateurs tentant de développer des agents pathogènes ou des toxines. La formulation décrit des tentatives potentielles, sans établir la création de telles armes. L’entreprise met en avant ses interventions pour interrompre les activités repérées. Le rapport souligne toutefois que les études de cas ne garantissent pas l’identification de chaque usage malveillant. Cette limite est présentée comme un risque propre à l’adoption étendue des outils d’IA.

Les garde-fous restent discutés dans la présentation d’Anthropic. L’entreprise insiste sur sa capacité à détecter et perturber les abus documentés. La multiplication des exemples produit néanmoins un constat plus préoccupant que rassurant, selon l’analyse publiée par WIRED. Les cas concernent notamment le piratage étatique, la criminalité numérique et la désinformation. Ils impliquent aussi des tentatives liées à des biotoxines. Le texte rapproche ces observations des outils concurrents et des systèmes de code ouvert moins protégés. Il ne présente pas ces exemples comme une mesure exhaustive du phénomène. Anthropic rapporte seulement les activités qu’elle dit avoir repérées et stoppées pendant les huit mois étudiés.

Anthropic détaille les interruptions

Les autorités poursuivent certains acteurs associés à d’autres affaires de cybersécurité cette semaine. Les États-Unis ont saisi les canaux Telegram de Xinbi Guarantee et sanctionné cette place de marché illicite. Le réseau aurait réalisé plus de 30 milliards de dollars de ventes en quatre ans. Les autorités américaines ont aussi annoncé des perquisitions dans treize complexes liés à des escroqueries à Madagascar. Dans une autre procédure, Oleksii Oleksiyovych Lytvynenko, membre du groupe Conti, a été condamné à quatre ans de prison. Ces affaires ne sont pas présentées comme liées aux usages de Claude décrits par Anthropic. Elles illustrent néanmoins l’activité répressive menée cette semaine contre plusieurs réseaux criminels. Lire le volet Xinbi Guarantee et la condamnation liée à Conti.