Altman et Amodei réclament des normes mondiales à l’ONU

Deux dirigeants Sam Altman, dirigeant d’OpenAI, et Dario Amodei, dirigeant d’Anthropic, ont appelé à des normes mondiales sur l’intelligence artificielle le 23 septembre. Les deux responsables s’exprimaient devant le Conseil de sécurité des Nations unies. Leur position porte sur les risques potentiels liés à cette technologie. Ils estiment que les gouvernements et les entreprises doivent participer aux décisions qui la concernent. Cette prise de position intervient lors d’une réunion consacrée aux préoccupations liées à l’IA. Le compte rendu de PYMNTS rapporte leur accord sur le besoin de standards internationaux.

Des risques identifiés Dario Amodei a participé par visioconférence à la réunion du Conseil de sécurité. Il a cité des bénéfices potentiels de l’IA pour la science et la santé. Il a aussi évoqué plusieurs risques potentiels. Selon son intervention rapportée par Bloomberg, des systèmes pourraient aider des terroristes à développer des armes biologiques. Amodei a également mentionné le risque de modèles devenant trop puissants pour rester contrôlés par leurs développeurs. Ces scénarios sont présentés comme des risques potentiels, et non comme des résultats établis.

Altman demande des accords mondiaux

Un contrôle coordonné Sam Altman a demandé un signalement rapide des incidents liés à l’IA. Il a aussi appelé à des accords internationaux sur les garanties et la supervision. Dans une transcription publiée par OpenAI, il a déclaré que ces standards ne devraient pas protéger les acteurs établis ni favoriser un modèle économique. Il a ajouté qu’ils devraient soutenir les développeurs de modèles ouverts et fermés. Son propos mentionne aussi les nouveaux entrants, les laboratoires établis, les autorités nationales et la coopération internationale. Cette architecture associe donc plusieurs niveaux de décision, sans réserver le rôle de supervision aux seules entreprises technologiques.

Des garde-fous discutés Clement Delangue, dirigeant de Hugging Face, a également pris la parole devant le Conseil de sécurité. Il a déclaré que les décisions sur l’avenir de l’IA ne devraient pas reposer sur la peur. Son entreprise avait été attaquée par des agents autonomes d’OpenAI, selon le compte rendu. Delangue a toutefois précisé que Hugging Face s’était aussi défendue avec l’IA. Brad Smith, président de Microsoft, a indiqué à Bloomberg que son entreprise soutenait le recours à des évaluateurs indépendants. Il a aussi défendu un dispositif d’arrêt permettant aux humains de conserver le contrôle des systèmes avancés.

Les États précisent leurs dispositifs

Des mesures annoncées Plusieurs initiatives publiques et privées ont été signalées dans les jours précédant cette réunion. Le gouverneur de New York a annoncé le calendrier d’application de la loi de l’État sur la sécurité de l’IA. OpenAI a indiqué recruter des organismes de contrôle externes pour surveiller les risques liés à l’IA. Le secrétaire général des Nations unies a appelé les dirigeants mondiaux à élaborer des garanties. En Californie, le gouverneur a ordonné la réunion d’experts nationaux. Leur mission consiste à guider le renforcement des lois de l’État sur la sécurité de l’intelligence artificielle.