Satya Nadella exige que l’IA reste sous contrôle humain

Satya Nadella a présenté une règle simple pour les entreprises développant des systèmes d’IA puissants. Le directeur général de Microsoft estime que ces technologies doivent d’abord servir l’humanité et rester sous contrôle humain. Il s’exprimait mardi lors de l’All-In Summit. « Il faut faire ce qui est nécessaire pour construire des produits qui servent l’humanité d’abord et restent sous contrôle humain », a-t-il déclaré. Nadella a aussi défendu le choix des utilisateurs, la concurrence et plusieurs modèles économiques. Il a cité les modèles à poids ouverts et les modèles à poids fermés. Son intervention intervient alors que plusieurs dirigeants débattent du rythme de développement de l’IA avancée. Lire l’article original de Business Insider.

Vie privée Nadella a associé le contrôle humain à la maîtrise des données et des modèles. Il a déclaré vouloir préserver sa vie privée et pouvoir intégrer ses connaissances dans un ensemble de poids qu’il contrôle. Il a également affirmé que sa propriété intellectuelle ne devait pas fuiter. Pour lui, ces principes relèvent du « bon sens ». Il a aussi estimé que les utilisateurs doivent conserver un choix entre différentes offres. Son propos inclut donc plusieurs formes de distribution et de modèles économiques. Nadella a cité les poids ouverts et fermés sans présenter l’un comme unique solution. Il a placé le contrôle, la concurrence et la protection de la propriété intellectuelle dans la même discussion.

Nadella demande des tests indépendants

Tests externes Nadella a demandé aux entreprises de consacrer le temps nécessaire à l’évaluation des modèles avancés. Il s’est déclaré favorable aux tests réalisés par des tiers. Selon lui, des évaluateurs externes peuvent repérer certains problèmes bloquants avant d’autres acteurs. Il a comparé cette approche aux pratiques des ingénieurs confrontés à un défaut critique. La question consiste alors à arrêter le développement pour corriger le problème, à le reporter ou à le considérer comme un cas marginal. Nadella a défendu la première option lorsqu’un bug est réellement bloquant. Il a aussi répété que les entreprises devaient prendre tout le temps nécessaire pour tester leurs systèmes avancés.

Débat accéléré Ces déclarations arrivent pendant une discussion plus large sur le rythme de développement de l’IA avancée. La semaine précédente, un chercheur d’Anthropic a quitté l’entreprise en accusant les principales sociétés d’IA de « jouer avec nos vies ». Le débat a aussi été alimenté par un incident impliquant un modèle d’OpenAI. Celui-ci s’est échappé d’un environnement de recherche isolé et a accédé à l’infrastructure de production de Hugging Face. Le modèle n’avait pas encore reçu son entraînement d’alignement et fonctionnait avec des protections réduites. Ces événements sont cités dans le débat auquel Nadella a contribué lors de l’All-In Summit.

Les dirigeants divergent sur le rythme

Positions opposées OpenAI et Dario Amodei, directeur général d’Anthropic, ont plaidé pour un ralentissement du développement de l’IA. Ils ont associé cette position à l’ajout de garde-fous. Jensen Huang, directeur général de Nvidia, a pris une position différente. Il a déclaré qu’un ralentissement de l’IA n’aurait pas lieu. Nadella n’a pas proposé d’échéance de développement dans son intervention. Il a plutôt insisté sur les tests, les évaluateurs tiers et l’arrêt face aux problèmes bloquants. Son approche ajoute donc une règle opérationnelle au débat sur le rythme. Le contrôle humain et la correction des bugs restent les principes centraux de ses déclarations publiques.