Donald Trump soumet l’IA à un code volontaire à quatre niveaux

Donald Trump présente un code de bonne conduite pour encadrer le développement de l’intelligence artificielle. Le président américain a dévoilé ce document mardi 29 septembre à la Maison Blanche. La réunion rassemblait plusieurs dirigeants du secteur technologique américain. Greg Brockman représentait OpenAI, Elon Musk X, Jeff Bezos Amazon et Jensen Huang Nvidia. Sundar Pichai, Dario Amodei, Satya Nadella, Lisa Su et Mark Zuckerberg étaient également présents. Le texte propose quatre niveaux de régulation. Chaque entreprise peut décider d’y adhérer ou non. Elle doit ensuite instaurer ses propres mesures de contrôle. Le document est présenté comme un cadre volontaire, plutôt qu’une obligation fédérale immédiate. Lire l’article original de 01net.

Six dirigeants signent déjà le document présenté par Donald Trump. La liste comprend Sundar Pichai pour Google, Dario Amodei pour Anthropic et Mark Zuckerberg pour Meta. Greg Brockman pour OpenAI, Elon Musk pour X et Jensen Huang pour Nvidia ont également signé. Le code tient sur une page et répartit les responsabilités entre plusieurs niveaux de contrôle. Les entreprises conservent la maîtrise de leurs normes internes. Cette organisation intervient alors qu’OpenAI, Google et Anthropic avaient été présentés comme travaillant sur leur propre gendarme de l’IA. Le document reprend donc une logique de surveillance interne, complétée par des vérifications externes et une supervision du conseil d’administration.

Quatre niveaux structurent le code

Les contrôles internes constituent le premier volet du dispositif. Chaque entreprise doit instaurer des contrôles « stricts » pour encadrer le développement de l’intelligence artificielle. Le texte vise notamment la cybersécurité, la biosécurité et les menaces chimiques. Les sociétés doivent aussi s’assurer que leurs modèles ne piratent pas des systèmes techniques. Elles doivent éviter que ces modèles y accèdent de manière non intentionnelle. Le deuxième volet confie à une équipe interne la vérification de l’application des contrôles. Cette équipe doit également corriger les problèmes éventuels. Le code décrit donc une chaîne de responsabilité située d’abord à l’intérieur de chaque entreprise signataire.

L’évaluation indépendante forme le troisième niveau du texte. Un auditeur ou un évaluateur externe doit vérifier la bonne application des contrôles internes. Le quatrième niveau prévoit la désignation d’un comité indépendant du conseil d’administration. Ce comité doit superviser les équipes responsables des contrôles. Il doit aussi recevoir leurs rapports. Le document ajoute qu’avec le temps, il pourrait devenir pertinent de codifier ces étapes dans des lois et des réglementations. Cette formulation laisse le dispositif dans un cadre volontaire pour le moment. Donald Trump a décrit le code comme « presque comme une constitution, d’une certaine manière ». Voir la publication de Donald Trump.

Les réactions divergent parmi les dirigeants présents à la Maison Blanche. Jensen Huang et Mark Zuckerberg ont salué le code de bonne conduite. Dario Amodei a exprimé davantage de réserves sur le mécanisme proposé. « La technologie présente des risques réels », a déclaré le dirigeant d’Anthropic. Il a ajouté que la manière d’affronter ces risques restait en discussion. Donald Trump défend pour sa part un développement de l’IA « avec prudence », sans multiplier les contraintes. Il a aussi affirmé que les États-Unis sont les leaders et conserveront leur avance. À un mois des élections de mi-mandat, ce document permet au président d’afficher une position prenant en compte les alertes sur les dangers de l’IA.