# Altman, Amodei et Bengio réclament un cadre à l’ONU > Le 23 septembre, Sam Altman, Dario Amodei et trois autres experts ont présenté au Conseil de sécurité de l’ONU des risques liés à l’IA. Type : Actualité IA · Catégorie : Stratégie · Publié le 2026-10-01 · Signal IA - Order & Chaos · Secteur : Cybersécurité Source : https://www.orderchaos.eu/signal-ia/actu/altman-amodei-et-bengio-pressent-lonu-dencadrer-lia Tags : sécurité, régulation, gouvernance, risques, ia, open-source --- ## En résumé - Yoshua Bengio a proposé des licences, des audits indépendants et une assurance responsabilité. - Sam Altman a défendu des standards nationaux et internationaux pour évaluer les modèles avancés. - Dario Amodei a promis de ralentir les déploiements si la sécurité ne suivait pas. **Le signal :** Sam Altman, Dario Amodei et Yoshua Bengio ont appelé l’ONU à renforcer les tests, le suivi des incidents et la coopération internationale. **Réunion du 23 septembre** Les dirigeants d’OpenAI, Anthropic et Hugging Face ont rejoint Yoshua Bengio au siège des Nations unies, à New York. Ils ont alerté le Conseil de [sécurité](/signal-ia/actu/vingt-six-procureurs-generaux-pressent-le-congres-dencadrer-lia) sur les risques liés à des systèmes d’intelligence artificielle toujours plus capables. La France, qui assurait la présidence tournante du Conseil, avait convoqué cette réunion consacrée à l’intelligence artificielle et à la sécurité internationale. Les intervenants n’ont toutefois pas présenté de plan commun pour gérer ces risques. Leurs propositions ont porté sur les licences, les évaluations indépendantes, les normes communes, le ralentissement des déploiements et l’accès aux outils pour les défenseurs. [Lire le compte rendu original](https://thejournal.com/articles/2026/09/30/ai-leaders-warn-of-risks-at-united-nations-security-council-briefing.aspx). **Des règles encore disputées** Yoshua Bengio, coprésident du groupe scientifique international indépendant de l’ONU sur l’intelligence artificielle, a contesté l’idée d’une compétition inévitable entre laboratoires. Dans ses remarques publiées, il a affirmé que cette course résultait de choix. Il a demandé aux développeurs de démontrer à des experts indépendants que les systèmes de pointe pouvaient être entraînés et déployés sans danger. Bengio a aussi proposé des obligations de signalement des incidents, des licences et une assurance responsabilité. Il a cité trois [risques](/signal-ia/actu/mit-technology-review-debat-du-risque-dextinction-de-lia) nécessitant une coopération internationale : les usages catastrophiques, la concentration du pouvoir et la perte de contrôle humain. Ces propositions placent la vérification externe au centre du débat. ## Les dirigeants proposent des contrôles différents **Les standards selon Altman** Sam Altman a reconnu le danger d’une progression trop rapide. Selon les remarques publiées par OpenAI, il a déclaré que l’entreprise avait déjà ralenti unilatéralement et le ferait encore. Il a ajouté que les décisions sur l’orientation de l’intelligence artificielle ne pouvaient pas être prises uniquement par des laboratoires de San Francisco. Le dirigeant d’OpenAI a proposé des standards nationaux et internationaux complémentaires. Ces standards devraient mesurer les capacités des systèmes de pointe, évaluer leurs risques et tester leurs protections. Altman a également défendu la comparaison des preuves entre pays, la vérification des engagements, le signalement rapide des incidents graves et des canaux sécurisés pour partager les menaces émergentes. [Voir les remarques citées dans l’article](https://thejournal.com/articles/2026/09/30/ai-leaders-warn-of-risks-at-united-nations-security-council-briefing.aspx). **[Anthropic](/signal-ia/actu/anthropic-alerte-sur-un-risque-dextinction-humaine-dici-2030) veut ralentir** Dario Amodei a pris un engagement plus direct sur le rythme des sorties d’Anthropic. Il a déclaré au Conseil qu’Anthropic ralentirait autant que nécessaire. Il a identifié deux préoccupations principales : l’utilisation de l’intelligence artificielle pour développer des armes biologiques et le risque que des systèmes avancés dépassent la capacité de contrôle de leurs concepteurs. Amodei a proposé d’installer des évaluateurs externes au sein des entreprises, avec un accès comparable à celui des salariés. Il a aussi suggéré un accord initial, limité à l’interdiction de fabriquer des armes biologiques avec l’intelligence artificielle. Des méthodes communes d’évaluation, de vérification et de notification des incidents devraient ensuite compléter cet accord. ## Les États-Unis rejettent une gouvernance élargie **L’accès selon Delangue** Clément Delangue, dirigeant de Hugging Face, a évoqué une cyberattaque menée par un agent d’intelligence artificielle et divulguée en juillet. Il a appelé à renforcer la surveillance et la divulgation des incidents. Il a toutefois défendu l’accès des acteurs de la défense à des outils capables. Selon lui, le danger central vient d’une asymétrie entre attaquants et défenseurs, grandes entreprises et autres acteurs, ainsi qu’entre pays riches et pays moins favorisés. Son équipe a utilisé un modèle au code ouvert pendant sa réponse à l’attaque. Cette position oppose donc la réduction des accès à la nécessité de fournir des capacités comparables aux défenseurs confrontés aux mêmes systèmes.