Dario Amodei répond aux critiques de Nathan Calvin

Réponse de Dario Amodei Le dirigeant d’Anthropic a publié mardi une réponse de près de 2 000 mots sur X. Il répondait à une critique affirmant que l’entreprise reléguait la sécurité derrière une course à la superintelligence. Nathan Calvin, directeur de la stratégie d’Encode AI, avait publié cette critique lundi. Son message dépassait 1 500 mots. Calvin reprochait à Anthropic neuf décisions prises au cours de l’année écoulée. Il citait notamment des accords représentant plus de 500 milliards de dollars de capacités de calcul. Il mentionnait aussi l’usage croissant de Claude pour développer les modèles d’Anthropic. Lire l’article original de Business Insider.

Une stratégie de frontière Amodei a déclaré qu’Anthropic pouvait mieux protéger le secteur en restant à la frontière technologique. Il a appelé cette approche la « course vers le sommet ». Selon lui, Anthropic veut démontrer qu’il est possible de construire cette technologie de manière responsable. L’entreprise chercherait ainsi à relever le niveau de sécurité de l’ensemble du secteur. Amodei a aussi indiqué qu’il appréciait le travail d’enquête réalisé par Calvin sur la sécurité de l’IA. Il a toutefois déclaré être en désaccord avec plusieurs de ses critiques. Sa réponse présente la sécurité comme un argument en faveur du maintien d’Anthropic parmi les acteurs les plus avancés.

Amodei détaille neuf mesures de sécurité

Des restrictions coûteuses Amodei a ensuite présenté neuf mesures qu’il juge bénéfiques pour la sécurité. Il les a décrites comme très coûteuses pour Anthropic sur le plan commercial. L’entreprise a réservé son modèle Mythos à un groupe sélectionné de partenaires en cybersécurité. Elle a également restreint la vente de ses services d’IA à des entreprises chinoises contrôlées par l’État. Ces deux décisions figurent parmi les exemples avancés par Amodei pour défendre le bilan de l’entreprise. Il a ainsi opposé des choix commerciaux contraignants à l’accusation selon laquelle Anthropic abandonnerait ses engagements de sécurité. Son argument repose sur des actions concrètes et sur leurs coûts commerciaux déclarés.

Un texte contesté au Congrès Amodei a reconnu qu’Anthropic aurait pu mieux traiter plusieurs sujets soulevés par Calvin. Parmi eux figure un projet de loi transmis au Congrès ce mois-ci. Politico a obtenu ce texte en exclusivité. Des détracteurs estiment qu’il rendrait plus difficile le blocage de modèles d’IA dangereux par le gouvernement fédéral. Amodei a écrit qu’Anthropic chercherait toujours à progresser. Il a aussi affirmé être très fier du bilan de l’entreprise et le maintenir. Cet échange intervient alors que la sécurité des modèles compte parmi les sujets les plus pressants du secteur de l’IA, selon le résumé de l’article.

Anthropic prépare une introduction en bourse

Une industrie sous pression En septembre, des chercheurs en IA ont prédit une « apocalypse de l’IA ». Ils estiment qu’une technologie toujours plus capable et hors de contrôle pourrait tuer l’humanité entière au cours de la prochaine décennie. Face à ces inquiétudes, Dario Amodei, Sam Altman et Elon Musk ont accepté de « ralentir la frontière ». Cette expression désigne un ralentissement du développement de l’IA, afin de disposer de contrôles et d’équilibres suffisants. L’échange entre Amodei et Calvin s’inscrit donc dans un débat plus large sur la vitesse de progression des modèles. Anthropic doit aussi composer avec des critiques portant sur ses choix commerciaux et réglementaires.

Des résultats avant l’entrée en bourse Anthropic se trouve au bord d’une introduction en bourse très attendue. Cette opération est prévue pour novembre, avec une valorisation attendue de 2 000 milliards de dollars. La semaine dernière, l’entreprise a annoncé 16,8 milliards de dollars de revenus au troisième trimestre. Ces chiffres placent la réponse d’Amodei dans une période stratégique pour Anthropic. Le dirigeant défend simultanément la trajectoire technologique, les restrictions appliquées à certains produits et le bilan de sécurité. Retrouvez le contexte et la réponse complète dans Business Insider.