OpenAI mise sur des évaluateurs indépendants pour sécuriser l’IA

OpenAI élargit ses évaluations. L’entreprise discute avec plusieurs évaluateurs indépendants pour augmenter le nombre d’organisations capables d’examiner la sécurité des systèmes d’intelligence artificielle avancée. OpenAI a présenté cette démarche dans un billet publié mardi 22 septembre 2026. Ces évaluateurs doivent fournir des analyses réalisées par des tiers. L’entreprise veut aussi soutenir leur développement et établir des standards internationaux plus clairs. OpenAI associe ces standards à de futures lois et à des initiatives de gouvernance privée. Son objectif déclaré concerne l’entraînement, l’évaluation et le déploiement sûrs des modèles avancés. La proposition complète les travaux présentés sur son site officiel OpenAI.

Des principes communs émergent. OpenAI affirme vouloir soutenir les évaluateurs indépendants et définir des méthodes partagées pour les audits de sécurité. Ces évaluations doivent aider les laboratoires développant des modèles avancés à examiner leurs systèmes avant leur déploiement. L’entreprise présente cette approche comme un moyen de rendre les contrôles réalisés par des tiers plus efficaces. Elle relie cette évolution à la fois aux futures règles publiques et aux dispositifs privés de gouvernance. Le billet d’OpenAI expose ainsi des priorités et des principes destinés aux évaluations externes. Il place les évaluateurs spécialisés au centre d’un dispositif encore en construction, sans annoncer de calendrier opérationnel précis.

OpenAI propose des standards internationaux

L’auto-amélioration inquiète OpenAI. La proposition sur les évaluateurs est intervenue un jour après une autre prise de position de l’entreprise. Le 21 septembre 2026, OpenAI a demandé que les États-Unis dirigent un effort international sur les standards techniques de l’IA avancée. Ces standards incluraient l’auto-amélioration récursive, appelée RSI. Selon OpenAI, un développement entièrement autonome pourrait faire perdre aux humains le contrôle de l’évolution de l’IA. L’entreprise estime que la capacité des systèmes à progresser pourrait dépasser celle des humains à les comprendre. Elle appelle donc à décider dès maintenant s’il faut développer cette technologie et selon quelles conditions.

Anthropic défend un autre modèle. Environ une semaine avant la publication d’OpenAI, Dario Amodei, directeur général et cofondateur d’Anthropic, a présenté un plan consacré à la sécurité de l’IA. Son essai propose d’intégrer des évaluateurs indépendants au sein des principales entreprises d’IA. Il recommande aussi une coordination entre les entreprises situées dans des pays démocratiques. À terme, son plan envisage un accord international incluant la Chine. Ces propositions placent les évaluations internes et la coopération entre acteurs au cœur du dispositif. Elles interviennent alors qu’OpenAI défend plutôt l’élargissement d’un réseau d’évaluateurs externes et l’établissement de standards communs.

Les autorités américaines avancent séparément

La Californie prépare un guide. Le 18 septembre 2026, le gouverneur Gavin Newsom a signé un décret exécutif sur la sécurité et la sûreté de l’IA. Ce texte prévoit de réunir des experts nationaux afin de préparer un guide pour renforcer les lois de l’État. Le cabinet du gouverneur a indiqué que le décret devait accélérer la mise en place d’un contrôle tiers des risques liés à la sécurité des systèmes d’IA. Cette initiative publique rejoint donc le sujet des évaluations indépendantes abordé par OpenAI. Les deux démarches ne présentent toutefois pas le même périmètre. L’une relève d’un décret californien, l’autre d’une proposition portée par une entreprise privée.