OpenAI propose des garde-fous pour l’auto-amélioration

OpenAI publie lundi une série de propositions consacrées à la sécurité et à la sûreté des systèmes d’intelligence artificielle de pointe. Le document porte sur deux sujets : la recherche en alignement et l’auto-amélioration récursive, ou RSI. OpenAI appelle aussi à une coopération internationale afin de développer des standards pour ces systèmes. L’entreprise présente cette démarche comme un cadre destiné à accompagner le développement de modèles capables d’évolutions avancées. Les propositions ont été publiées lundi, avant la date de cet article, le 22 septembre 2026. Elles sont détaillées dans la publication d’OpenAI et rapportées par CNBC.

L’alignement accompagne les capacités selon OpenAI. L’entreprise affirme que cette recherche doit progresser au même rythme que les capacités des modèles. Cette position relie directement les travaux d’alignement au développement de l’intelligence artificielle de pointe. OpenAI ne présente toutefois pas l’auto-amélioration récursive pleinement autonome comme une capacité actuelle. L’entreprise affirme que cette RSI autonome n’existe pas aujourd’hui. Elle ajoute qu’il ne faudrait pas la poursuivre tant qu’elle ne pourrait pas être réalisée de manière sûre. La RSI désigne une technique informatique permettant à des modèles de fondation de se mettre à niveau sans intervention humaine. Cette définition place l’intervention humaine au centre de la proposition actuelle.

OpenAI appelle à des standards internationaux

La coopération devient une proposition centrale du document publié par OpenAI. L’entreprise demande aux acteurs internationaux de travailler ensemble sur des standards applicables à l’intelligence artificielle de pointe. Ces standards concerneraient notamment les travaux liés à l’alignement et à la sécurité. OpenAI ne limite donc pas son appel à une seule organisation ou à un seul pays. Sam Altman avait pris la parole le 2 septembre 2026 lors du G20 Innovation Ministerial, à Chapel Hill, en Caroline du Nord. Cet événement constitue un autre cadre international associé aux discussions sur l’innovation. OpenAI formule ici une proposition de coopération, plutôt qu’un résultat déjà établi.

Anthropic a publié ses propres propositions la semaine précédente. L’entreprise a consacré ce document au développement sûr des modèles d’intelligence artificielle de pointe. Cette publication intervient alors qu’OpenAI met l’accent sur l’alignement, la sécurité et la RSI. Les deux entreprises ont donc présenté des propositions distinctes sur le développement sûr de modèles avancés. Dario Amodei affirme de son côté que les entreprises d’intelligence artificielle devraient ralentir le rythme de développement de leurs modèles de fondation. Cette position est publiée sur son site personnel. Elle ajoute une proposition de rythme aux discussions déjà engagées sur les standards et la sécurité.

La RSI autonome reste encadrée

OpenAI refuse une poursuite immédiate de la RSI pleinement autonome. L’entreprise affirme que cette capacité ne se produit pas aujourd’hui. Elle estime également qu’il ne faudrait pas la poursuivre avant de pouvoir l’exécuter de manière sûre. Cette formulation établit une condition de sécurité, sans annoncer de calendrier technique. La RSI reste définie comme une méthode permettant à des modèles de fondation de s’améliorer sans intervention humaine. La recherche en alignement constitue l’autre axe des propositions publiées lundi. OpenAI affirme que cette recherche doit suivre le rythme des capacités. Ces éléments forment le contenu opérationnel présenté par l’entreprise sur l’auto-amélioration et l’alignement.