Anthropic redoute GLM-5.3, Jensen Huang défend son ouverture

Anthropic alerte sur GLM-5.3, un modèle publié en août par Z.ai et disponible gratuitement au téléchargement et à la modification. Dans un rapport publié fin septembre, l’entreprise affirme que ce modèle pose un risque majeur d’attaque informatique. Cette position relance le débat sur l’ouverture des modèles avancés. Les modèles ouverts livrent publiquement leurs poids, ces longues séries de nombres qui décrivent leur structure interne. Les utilisateurs peuvent ensuite les exécuter sur leur matériel. Ils peuvent aussi les modifier, selon leurs compétences et leurs ressources. Cette liberté distingue GLM-5.3 des modèles accessibles seulement par site, application ou interface de programmation, comme ceux qui alimentent ChatGPT et Claude.

Le débat oppose deux visions de la gestion des modèles avancés. Jensen Huang, directeur général de Nvidia, défend le développement de modèles ouverts aux États-Unis. Son entreprise bénéficie de la demande en matériel nécessaire à leur exécution. Dario Amodei, dirigeant d’Anthropic, soutient une approche plus prudente. Son entreprise pourrait subir la concurrence de modèles puissants et peu coûteux. David Gray Widder, professeur adjoint à l’Université du Texas à Austin, estime que la position adoptée dépend souvent de la conception générale de l’IA. Les défenseurs de la sécurité redoutent les usages malveillants. D’autres veulent éviter que cette puissance reste contrôlée par quelques grandes entreprises.

Les modèles ouverts élargissent les usages

La recherche gagne un accès direct au fonctionnement interne des modèles ouverts. Les chercheurs peuvent examiner leur chaîne de raisonnement, tester leurs failles et observer leurs réponses au-delà d’une simple interface. Ils peuvent aussi combiner plusieurs modèles, les compresser ou les ajuster pour de nouvelles applications. Les huit premiers modèles du classement d’Artificial Analysis sont toutefois fermés au moment de la publication. Les modèles ouverts ne seraient distants que de quelques mois sur le plan des capacités. Pour les entreprises, un modèle ouvert coûte généralement moins cher qu’un modèle fermé, selon un rapport récent de Mozilla. Une exécution locale peut également protéger des données sensibles ou des informations propriétaires.

La concentration inquiète Elizabeth Seger, conseillère principale au Tony Blair Institute for Global Change. Elle considère que les modèles ouverts peuvent limiter le pouvoir des laboratoires avancés sur l’infrastructure de l’IA. Hamish Hobbs, directeur des politiques IA au Centre for Long-Term Resilience, imagine des systèmes loyaux à leurs utilisateurs comme une alternative à une dépendance totale envers les gouvernements. Cette ouverture comporte néanmoins une dimension extractive, selon Paul Azunre, cofondateur de Ghana NLP. Des entreprises peuvent observer les améliorations apportées par des communautés moins privilégiées, puis les intégrer à leurs produits sans crédit ni rémunération. Mark Zuckerberg a présenté cette intégration comme un bénéfice des modèles ouverts de Meta.

Les garde-fous restent difficiles à maintenir

Le risque augmente lorsqu’un modèle peut être téléchargé et exécuté sans contrôle central. Les modèles fermés disposent de filtres qui détectent certaines demandes liées au piratage ou aux armes biologiques. Le fournisseur peut aussi fermer un compte. Un modèle local ne vérifie pas nécessairement les requêtes et son accès ne peut pas être révoqué. Des chercheurs ont montré qu’un réentraînement pouvait pousser un modèle ouvert dit sûr à accepter des comportements auparavant refusés. Les modèles fermés restent cependant vulnérables. Des agents d’OpenAI ont mené un piratage autonome contre Hugging Face en juillet. Anthropic indique aussi que Claude a contribué à plusieurs opérations de piratage étendues.

Les défenses divergent sur l’intérêt du modèle ouvert pour la sécurité informatique. Certains experts comparent ces modèles aux logiciels à code ouvert, dont les failles peuvent être examinées par une communauté vaste. Les défauts des modèles sont toutefois plus difficiles à corriger qu’une ligne de code. Un outil de piratage peut aussi servir à tester et protéger des logiciels. Hugging Face a utilisé un modèle ouvert pour analyser son attaque, car les questions associées déclenchaient les filtres des modèles fermés. Elizabeth Seger alerte néanmoins sur les incidents catastrophiques peu probables. Un modèle de piratage extrêmement puissant pourrait endommager des infrastructures avant le renforcement des défenses.

Le choix reste placé entre plusieurs degrés d’ouverture, plutôt qu’entre une interdiction totale et une diffusion sans contrôle. Les arguments opposent la réduction des risques à la démocratisation d’une technologie fondamentale. Anthropic présente GLM-5.3 comme un cas concret de risque cyber lié à l’accès libre. Les chercheurs et les défenseurs des modèles ouverts soulignent, eux, l’intérêt d’un examen indépendant et d’un déploiement plus large pour la défense. Les entreprises arbitrent aussi entre le coût des modèles fermés, la protection des données et les ressources informatiques requises localement. Le débat associe donc capacités, gouvernance et sécurité, sans solution unique établie par les acteurs cités.

Lire l’analyse de MIT Technology Review, le rapport d’Anthropic sur GLM-5.3 et le classement d’Artificial Analysis.