Anthropic bloque cinq usages de Claude à risque biologique

Anthropic a bloqué des usages de ses modèles Claude qui pouvaient soutenir le développement d’armes biologiques. L’entreprise présente ces résultats dans son rapport de renseignement sur les menaces publié le 10 septembre 2026. Les activités concernées auraient été perturbées entre décembre 2025 et août 2026. Anthropic recense cinq études de cas liées à des usages biologiques préoccupants. La société qualifie le mésusage biologique de l’un des risques les plus graves associés aux modèles d’IA avancés. Elle précise toutefois que les mêmes informations peuvent servir à développer un vaccin ou un traitement. Le rapport d’Anthropic détaille ces cas et les mesures prises.

Le rapport décrit des usages impliquant des groupes soutenus par des États, des criminels, des fournisseurs de logiciels espions et des institutions de propagande. Claude aurait aussi été utilisé par des acteurs liés à une campagne d’espionnage informatique basée en Russie et par une institution de propagande iranienne. Les cas examinés couvrent également des applications de rencontres frauduleuses, des escroqueries via les réseaux Wi-Fi d’hôtels et des outils de surveillance visant des dissidents. Anthropic accuse par ailleurs des entreprises chinoises d’IA d’avoir tenté de reproduire les capacités de Claude. Jacob Klein, responsable du renseignement sur les menaces chez Anthropic, décrit la situation comme « incroyablement nuancée ».

Anthropic détaille cinq cas biologiques

Google signale aussi une tentative visant Gemini. Selon l’entreprise, une personne a cherché à obtenir un guide technique complet, étape par étape, pour synthétiser des agents biologiques militarisés. Anthropic indique que les modèles Claude Haiku, Sonnet et Opus ont fait l’objet d’usages malveillants perturbés durant la période étudiée. Les modèles Claude Fable et ceux de la classe Mythos ne sont pas concernés par ces cas, sauf pour un incident de distillation. Cette technique consiste à entraîner des modèles plus petits avec des modèles plus coûteux. Le rapport couvre aussi six cas liés au développement de logiciels pour des armes conventionnelles, dont des missiles, des drones armés et des systèmes de ciblage.

Les opérations informatiques occupent également une place importante dans le rapport. Anthropic affirme que des cybercriminels et des hackers soutenus par des États utilisent davantage ses technologies pour leurs opérations. Le groupe ShinyHunters et des laboratoires basés en Chine figurent parmi les acteurs cités. Un groupe dont les activités correspondent à celles de Midnight Blizzard aurait utilisé l’IA pour créer un système détectant le signalement de ses logiciels malveillants. Le système aurait ensuite réécrit le code jusqu’à contourner les défenses de sécurité. Anthropic dit avoir intégré ces observations à ses processus afin de mieux prévenir, détecter et perturber ces activités.

Anthropic partage des renseignements

Anthropic a partagé des renseignements avec des autorités et des partenaires industriels lorsque cela était approprié. Cette démarche accompagne les mesures internes annoncées après l’identification des cas. Le rapport constitue le premier rapport de renseignement sur les menaces publié par l’entreprise cette année. Google a aussi publié un rapport consacré à l’évolution des usages adverses de l’IA, de la formulation de requêtes vers l’autonomie opérationnelle. Google décrit cette évolution dans une analyse publiée le 8 septembre 2026. Les cas biologiques restent présentés par Anthropic comme des usages bloqués ou perturbés, et non comme des armes produites.

Les appels politiques se multiplient autour des risques associés à l’IA avancée. Le sénateur américain Bernie Sanders a demandé une pause temporaire du développement de l’IA avancée et une interdiction de la superintelligence artificielle. Le scientifique en chef d’OpenAI, Jakub Pachocki, a appelé le 6 septembre à des ralentissements volontaires jusqu’à la mise en place de protections. Il estime que l’industrie doit répondre aux conséquences d’une hausse rapide de l’intelligence machine. Le président Donald Trump a rejeté ces craintes jeudi, tout en déclarant que les États-Unis seraient en mauvaise position s’ils ne remportaient pas la course à l’IA. Le récit de la BBC rapporte ces positions.