Après Navier-Stokes, OpenAI publie 370 résultats mathématiques

Publication massive. OpenAI a publié mardi plus de 370 résultats mathématiques dans plusieurs domaines. La liste couvre notamment l’algèbre, l’informatique théorique et la logique mathématique. Cette annonce présente les capacités de certains de ses modèles d’intelligence artificielle les plus avancés. Elle intervient après une autre annonce consacrée aux mathématiques avancées. Le mois dernier, OpenAI a résolu l’équation de Navier-Stokes. Cette équation figure parmi les problèmes mathématiques les plus difficiles au monde. Une récompense d’un million de dollars était associée à sa résolution. Ces annonces ont surpris plusieurs mathématiciens. Elles ont aussi déclenché des interrogations sur la validation des résultats et l’accès aux modèles utilisés. Lire l’article du Guardian.

Des modèles difficiles à vérifier. L’Institute for Advanced Study, groupe indépendant de spécialistes basé à Princeton, n’approuve pas cette pratique. L’organisation estime que l’intelligence artificielle peut désormais produire des arguments mathématiques sans compréhension humaine suffisante. Selon sa déclaration, l’utilisateur peut ne pas comprendre, vérifier ou assumer ces arguments. L’institut affirme que la compréhension humaine reste essentielle en mathématiques. Il pose donc la question d’un nouveau cadre pour les travaux scientifiques responsables. Cette position vise les laboratoires de pointe qui testent des problèmes avancés sur des modèles propriétaires. Ces modèles ne sont pas accessibles à l’ensemble des mathématiciens. L’institut demande ainsi que la compréhension humaine reste intégrée aux productions mathématiques. Consulter la position de l’Institute for Advanced Study.

OpenAI dialogue avec Princeton

Une réponse institutionnelle. Pour répondre aux inquiétudes de la communauté mathématique, OpenAI a annoncé une collaboration avec l’Institute for Advanced Study. L’entreprise veut donner aux mathématiciens une voix sur la manière de poursuivre ces travaux. Cette annonce ne signifie toutefois pas qu’OpenAI cessera de tester ses modèles sur des problèmes avancés. Les experts interrogés s’inquiètent aussi du niveau de vérification appliqué aux résultats publiés. La question porte donc sur la validation des démonstrations, et pas seulement sur leur production. L’Institute for Advanced Study a formulé ses préoccupations dans une déclaration publique. OpenAI a également créé un groupe consultatif consacré aux mathématiques et à l’intelligence artificielle. Voir l’annonce d’OpenAI.

Le cas Navier-Stokes. Tristan Buckmaster, mathématicien à l’université de New York, travaillait sur le problème de Navier-Stokes. Dans un entretien accordé au New York Times, il a évoqué le rôle possible des chercheurs utilisant ces modèles. Selon lui, les personnes qui demandent aux modèles de résoudre des équations peuvent fournir des informations utiles. Ces informations pourraient aider le modèle à parvenir au résultat final. Buckmaster a aussi estimé que certains résultats pourraient reprendre le travail d’une personne avant de le compléter. Cette remarque renforce les questions sur l’origine des avancées annoncées. Elle concerne notamment la contribution des mathématiciens ayant formulé les requêtes. Lire l’entretien cité par le New York Times.

L’accès aux modèles reste disputé

Un risque de séparation. Le conseil consultatif demande aux laboratoires d’intelligence artificielle un accès équitable à leurs modèles. Il souhaite que la communauté mathématique mondiale puisse utiliser ces outils. Le groupe estime que les modèles internes propriétaires peuvent créer un système à deux niveaux. Dans ce scénario, les laboratoires avanceraient plus vite que le reste du domaine. Le groupe avertit que cette situation pourrait éloigner les mathématiciens de leur propre discipline. Cette demande complète les critiques portant sur la vérification des résultats. OpenAI doit désormais travailler avec l’Institute for Advanced Study, selon son annonce. La poursuite des tests sur des problèmes avancés reste néanmoins annoncée. Le débat porte donc sur la validation, la responsabilité et l’accès aux outils.