Anthropic propose de suspendre les IA à risque imminent

Anthropic devant les élus Anthropic a présenté un projet de loi à des élus américains. Le texte prévoit que le gouvernement américain puisse demander la suspension d’une IA. Cette demande concernerait un risque imminent et prévisible. Le risque devrait pouvoir causer plus de 50 morts ou blessés graves. Il pourrait aussi représenter plus d’un milliard de dollars de dommages. Le seuil combine donc des conséquences humaines et financières. Le projet ne prévoit pas une suspension automatique après un incident. Il décrit une procédure déclenchée par un risque identifié. La proposition d’Anthropic est présentée dans cet article de 01net, publié le 21 octobre 2026.

Trois situations de blocage Le projet établit trois cas dans lesquels une IA de pointe pourrait être bloquée. Le premier concerne le développement d’une arme biologique. Le deuxième vise une cyberattaque. Le troisième porte sur un modèle qui échapperait au contrôle de son concepteur. Ces trois situations sont distinctes du seuil de dommages. Le texte les associe toutefois au pouvoir de bloquer une IA de pointe. Il ne s’agit donc pas d’un seul scénario de danger. La proposition combine des usages identifiés et une perte de contrôle par le concepteur. Politico a également rapporté cette initiative.

Des évaluateurs enregistrés au Commerce

Une surveillance indépendante La surveillance des modèles d’IA serait confiée à des évaluateurs indépendants. Ces évaluateurs devraient être enregistrés auprès du département américain du Commerce. Leur mission porterait sur l’évaluation des modèles concernés par le projet. Le texte prévoit une obligation de signalement lorsqu’un risque imminent est identifié. Ce signalement devrait parvenir au département du Commerce dans les 72 heures suivant la fin de l’évaluation. Le délai commence donc après l’achèvement de l’examen. La proposition attribue ainsi un rôle précis aux évaluateurs et au département du Commerce. Elle ne confie pas directement cette surveillance aux concepteurs des modèles.

Un juge fédéral décisionnaire Le projet désigne un juge fédéral du district de Columbia comme seul habilité à ordonner la suspension d’un modèle d’IA. Cette ordonnance interviendrait à la demande du département américain du Commerce. Le département ne disposerait donc pas, selon le texte présenté, du pouvoir exclusif de suspendre lui-même un modèle. La procédure associe l’évaluation indépendante, le signalement sous 72 heures et une demande administrative. La décision finale reviendrait au juge fédéral désigné. Le périmètre judiciaire est précisément défini par le district de Columbia. Le projet organise ainsi une chaîne entre évaluateurs, département du Commerce et tribunal fédéral.

Un seuil financier fixé à un milliard

Des dommages quantifiés Le projet retient un second seuil au-delà des conséquences humaines. Le gouvernement américain pourrait demander la suspension d’une IA si le risque imminent et prévisible dépasse un milliard de dollars de dommages. Ce montant constitue une alternative au seuil de plus de 50 morts ou blessés graves. Le texte ne limite donc pas le risque aux seuls dommages corporels. Il inclut également un impact financier quantifié. Les deux seuils portent sur un risque imminent et prévisible. Le projet prévoit aussi trois situations particulières pour les IA de pointe. L’ensemble associe seuils chiffrés, usages dangereux et perte de contrôle du modèle.