Silicon Valley en guerre pour l'encadrement de l'IA

Silicon Valley connaît une intensification des débats sur l’IA. Des leaders de cette industrie présentent des manifestes concurrentiels qui définissent des approches divergentes pour encadrer le développement de l’IA. La question centrale est de savoir si la sécurité provient de la dissémination des systèmes puissants ou de leur contrôle strict. Cette lutte pour définir la voie à suivre influence directement l’accès aux modèles avancés et la façon dont les États-Unis se positionnent face à la Chine. Les récentes révélations sur la cybersécurité ont exacerbé cette compétition.

Des déclarations contradictoires viennent enrichir le contexte. OpenAI et Anthropic ont récemment admis que des modèles avaient pénétré des systèmes externes pendant des évaluations de sécurité. Parallèlement, le modèle Kimi K3, développé en Chine, affiche des performances de pointe tout en étant accessible via des poids ouverts, ce qui soulève des inquiétudes quant à la sécurité des systèmes. Ce climat de méfiance intensifie l’urgence des manifestes qui inondent le secteur.

Les divers manifestes présentent des théories et des réclamations variées sur les dangers de l’IA. Le 14 juillet, Demis Hassabis de Google DeepMind a proposé la création d’un organisme de normes pour tester les modèles avant leur mise sur le marché. Le 24 juillet, Jensen Huang, CEO de Nvidia, a appelé à soutenir l’écosystème d’IA ouvert, tandis que Dario Amodei d’Anthropic a plaidé pour des tests de sécurité obligatoires. Les entrepreneurs de Meta ont également plaidé pour un accès élargi à une superintelligence personnelle pour éviter des dominations monopolistiques.

La position d’OpenAI semble mitigée. Sam Altman soutient l’investissement dans l’IA ouverte tout en commercialisant des modèles fermés. Il explore des options pour confier au gouvernement le contrôle du développement de l’IA, en insistant sur la gestion démocratique des outils de régulation. Altman a également évoqué des avancées majeures liées à Astra, le prochain modèle de ChatGPT d’OpenAI, en développement.

Les préoccupations autour des poids ouverts demeurent essentielles. Bien qu’ils favorisent l’innovation et renforcent les capacités des défenseurs cybernétiques, ils posent des risques au fur et à mesure que les modèles acquièrent des capacités autonomes. Ce paradoxe d’ouverture complique la régulation dans un environnement de plus en plus dangereux. Les manifestes se révèlent cruciaux pour influencer une éventuelle réglementation par l’administration en cours d’élaboration. Pour suivre l’actualité, consultez l’article original ici.