Dario Amodei rallie Musk et Altman à son appel à ralentir l’IA

Un appel à ralentir les modèles avancés

Anthropic propose Le 12 septembre, Dario Amodei a publié une tribune appelant l’industrie à ralentir volontairement les avancées en IA. Le patron d’Anthropic estime que les capacités des modèles progressent plus vite que les outils destinés à évaluer et maîtriser leurs risques. Sa proposition ne demande pas un moratoire général. Elle vise plutôt à laisser la recherche en sécurité et les institutions rattraper leur retard. Cette prise de position a reçu le soutien de plusieurs acteurs américains. Elon Musk a écrit « Dario is right » sur X. Sam Altman a ensuite affirmé que les entreprises américaines devaient agir de manière responsable face à des modèles toujours plus capables. Lire la tribune de Dario Amodei.

Un plan en trois volets Amodei avance trois mesures pour encadrer les modèles les plus avancés. La première consiste à installer des évaluateurs indépendants dans les laboratoires. Ces évaluateurs devraient bénéficier d’un accès comparable à celui des employés. La deuxième prévoit une coordination entre les entreprises d’IA opérant dans des pays démocratiques. Elles adopteraient des standards communs de sécurité. La troisième ouvre des discussions internationales sur les limites à ne pas dépasser. Le dirigeant d’Anthropic inclut notamment la Chine dans cette coopération. Il demande parallèlement de maintenir les restrictions américaines sur l’exportation de puces et d’équipements avancés vers ce pays. Son dispositif associe donc coopération internationale et protection de l’avance américaine en IA.

Les rivaux américains soutiennent Amodei

Une convergence récente OpenAI et Anthropic appellent désormais à ralentir le développement des modèles les plus avancés. Cette position prolonge des signaux apparus depuis 2023. Elon Musk avait alors signé une lettre demandant une suspension de six mois pour l’entraînement de certains systèmes. OpenAI a aussi multiplié les appels à la prudence après l’incident Hugging Face. Une lettre commune a mis en garde contre un développement plus rapide que la capacité de contrôle. Le débat public s’est ensuite intensifié après la démission de Jacob Coxon. Cet ancien chercheur d’OpenAI puis d’Anthropic a déclaré le 9 septembre que des personnes construisant l’IA craignaient un danger pour l’humanité avant la fin de la décennie.

La rivalité avec Pékin La proposition d’Amodei se heurte toutefois à la compétition stratégique entre Washington et Pékin. Donald Trump a rejeté l’idée d’un ralentissement unilatéral, estimant qu’il pourrait donner un avantage aux entreprises chinoises. Les modèles chinois à code ouvert gagnent en visibilité et rivalisent davantage avec les systèmes américains. Amodei reconnaît lui-même qu’une coopération avec la Chine serait indispensable pour établir une limite mondiale. Son plan demande aussi de lutter contre la distillation de modèles occidentaux par des laboratoires chinois. Le média d’État Global Times a qualifié sa tribune de « manuel de la guerre froide ». Il l’a accusé de vouloir contenir le développement chinois derrière des barrières technologiques et réglementaires. Voir la réaction de Yann LeCun.

Les coûts de la régulation inquiètent

Une course inchangée Les appels à la prudence coexistent avec la poursuite des lancements. Début septembre, Jakub Pachocki, chef scientifique d’OpenAI, a écrit que la chaîne de pensée devenait moins fiable avec des modèles plus sophistiqués. Quatre jours plus tôt, OpenAI avait pourtant dévoilé Astra 6, présenté comme son modèle le plus abouti. Cette séquence nourrit une interrogation sur les motivations économiques de ces entreprises. Des voix sceptiques estiment qu’une réglementation uniforme pourrait augmenter les coûts d’entrée. Elle compliquerait aussi la tâche des petits acteurs, des projets à code ouvert et des nouveaux concurrents. Yann LeCun a de son côté jugé qu’un incident lié à un acteur particulier ne devait pas condamner toute la technologie.