Anthropic veut suspendre les IA risquant 50 victimes

Anthropic propose un cadre fédéral américain permettant de suspendre le déploiement d’un modèle d’IA. Le projet prévoit cette mesure lorsqu’un modèle présente un risque imminent de causer plus de 50 morts ou blessés graves. Une autre condition concerne les dommages dépassant un milliard de dollars. La suspension nécessiterait l’autorisation d’un juge. Anthropic présente donc un mécanisme judiciaire associé à des seuils chiffrés. Le projet a été rapporté le 17 octobre 2026. Il s’inscrit dans une proposition de texte consacrée à l’encadrement fédéral des modèles d’IA. Le dispositif décrit une intervention possible avant le déploiement ou pendant son maintien, lorsque ces risques sont caractérisés.

Le texte américain associe ainsi deux critères distincts. Le premier porte sur les conséquences humaines, avec un seuil supérieur à 50 morts ou blessés graves. Le second porte sur les conséquences financières, avec un montant supérieur à un milliard de dollars. Dans les deux cas, le texte présenté par Anthropic prévoit une suspension potentielle du déploiement. La décision ne serait toutefois pas automatique. Elle nécessiterait l’autorisation d’un juge. Cette exigence place l’intervention dans un cadre judiciaire, plutôt que dans une décision unilatérale de l’entreprise. Le projet porte donc à la fois sur les seuils de risque et sur la procédure de suspension.

Anthropic fixe deux seuils de risque

Les seuils proposés reposent sur des dommages mesurables. Le premier seuil est dépassé lorsqu’un modèle risque de causer plus de 50 morts ou blessés graves. Le second est dépassé lorsque le risque de dommages excède un milliard de dollars. Le texte ne présente pas ces montants comme des résultats observés, mais comme des conditions permettant d’envisager une suspension. Anthropic propose également que cette suspension soit soumise à un juge. La combinaison d’un risque imminent, d’un seuil chiffré et d’une autorisation judiciaire structure le mécanisme annoncé. Ces éléments forment le cœur de la proposition fédérale américaine portée par l’entreprise.

Les obligations prévues ne se limitent pas à la suspension. Le projet prévoit des tests de sécurité pour les modèles concernés. Il prévoit aussi des obligations de transparence et une évaluation indépendante. Un programme de sûreté figure également parmi les mesures annoncées. Ces exigences complètent la possibilité d’une intervention judiciaire. Elles organisent plusieurs étapes autour de la sécurité, de la vérification et de la transparence. Le texte associe donc un contrôle préalable ou continu à une procédure de suspension. Les détails présentés concernent les tests, l’évaluation indépendante, les informations à rendre transparentes et le programme de sûreté prévu par Anthropic.

Le juge encadrerait la suspension

L’autorisation judiciaire constitue une condition explicite du dispositif. Anthropic propose qu’un juge autorise la suspension lorsqu’un modèle présente l’un des risques définis dans le texte. Ces risques portent sur plus de 50 morts ou blessés graves, ou sur plus d’un milliard de dollars de dommages. Le projet ajoute des tests de sécurité, une évaluation indépendante et des obligations de transparence. Il prévoit enfin un programme de sûreté. La proposition rassemble ainsi une procédure judiciaire et plusieurs obligations techniques ou organisationnelles. Le récit de BFMTV détaille cette initiative annoncée par Anthropic.

La proposition d’Anthropic fournit un cadre fédéral américain centré sur des risques extrêmes et quantifiés. Le mécanisme pourrait suspendre le déploiement d’un modèle si le risque imminent dépasse l’un des deux seuils annoncés. La décision devrait alors recevoir l’autorisation d’un juge. Le texte prévoit parallèlement des tests de sécurité, de la transparence, une évaluation indépendante et un programme de sûreté. Le texte présenté le 17 octobre 2026 place donc la procédure judiciaire au centre d’un ensemble plus large d’exigences de contrôle.