Le Conseil de sécurité de l’ONU auditionne les patrons de l’IA

Réunion diplomatique. Anthropic, OpenAI, DeepSeek et Moonshot doivent s’exprimer mercredi devant le Conseil de sécurité des Nations unies. Sam Altman, directeur général d’OpenAI, Dario Amodei, directeur général d’Anthropic, Yoshua Bengio, chercheur en sécurité de l’IA, et Clément Delangue, directeur général de Hugging Face, doivent informer les quinze membres du Conseil. Cette instance peut autoriser des sanctions et des opérations militaires. La séance portera sur les risques associés à l’intelligence artificielle. DeepSeek et Moonshot représenteront aussi des entreprises chinoises. La France organise cette session et assure la présidence tournante du Conseil pendant le mois de septembre. Lire l’article source.

Un agenda français. Le ministre français des Affaires étrangères Jean-Noël Barrot présidera la séance. La note conceptuelle de la réunion serait centrée sur des systèmes d’IA pouvant échapper au contrôle humain. Les échanges doivent aussi aborder des systèmes capables, à terme, de mener des cyberattaques, d’influencer des élections ou de concevoir des armes sans intervention humaine. Le choix du Conseil de sécurité relie ainsi les risques technologiques aux questions de guerre et de sanctions. DeepSeek a été invité à prendre la parole après le lancement, en janvier 2025, d’un modèle à bas coût. Ce lancement avait effacé environ 600 milliards de dollars de capitalisation boursière de Nvidia.

La France organise la séance

Un débat transatlantique. Dario Amodei participera à distance. Le 12 septembre, il a publié un essai intitulé « We Must Pace the Frontier ». Il y défend un ralentissement volontaire du développement des modèles frontières, décrits comme les systèmes les plus avancés publiés par les laboratoires. Amodei a aussi indiqué qu’Anthropic donnerait à des évaluateurs externes un accès permanent, au niveau des équipes, pour vérifier ses engagements de sécurité. Sam Altman et Elon Musk ont déclaré leur accord quelques heures plus tard. Amodei a qualifié la Chine de pays autocratique disposant de capacités d’IA nettement avancées. Il soutient également le maintien des restrictions américaines sur les exportations de puces avancées vers Pékin.

Réaction chinoise. Le ministère chinois des Affaires étrangères a jugé l’essai de Dario Amodei contre-productif. Des médias d’État chinois l’ont présenté comme une stratégie de guerre froide visant à contenir la Chine. Le débat intervient avant le sommet prévu le 24 septembre entre Donald Trump et le président chinois Xi Jinping. Ce sommet doit se tenir à Washington, deux jours après la réunion du Conseil de sécurité. La sécurité de l’IA ferait partie des sujets abordés, avec le commerce. Donald Trump a rejeté les avertissements sur une prise de contrôle par l’IA. Après la publication de l’essai d’Amodei, il les a qualifiés de canular lié à la « gauche radicale » et a accusé le dirigeant d’Anthropic sans fournir de preuve.

Le sommet Trump Xi approche

Un résultat non contraignant. La séance de l’ONU ne devrait probablement pas déboucher sur un accord contraignant. Cette appréciation intervient après un sommet sur la sécurité de l’IA organisé par le roi Charles dans sa propriété écossaise. Des dirigeants d’Anthropic, d’OpenAI, de Nvidia et de Google DeepMind y ont participé. La rencontre avait produit des échanges, sans accord public connu. Le Conseil de sécurité écoutera donc des entreprises qui développent les systèmes discutés, ainsi que Yoshua Bengio et des représentants diplomatiques. Les restrictions américaines sur les puces, la coopération sino-américaine et les mécanismes d’évaluation de sécurité feront partie des thèmes liés aux interventions annoncées mercredi. Voir le compte rendu de Reuters.