Bryan Cantrill tempère l’alerte apocalyptique d’Anthropic

Bryan Cantrill réagit à une alerte relayée le 14 septembre 2026 par Simon Willison. Jacob Coxon, ancien employé d’Anthropic, a confirmé que plusieurs chercheurs de l’entreprise pensent que l’IA pourrait « tous nous tuer d’ici la fin de la décennie ». Cantrill répond à cette affirmation en appelant à davantage de prudence. Il raconte aussi des erreurs commises dans sa jeunesse, qui avaient provoqué une panique injustifiée chez des personnes moins techniques. Son avertissement porte sur le rôle particulier des experts. Leur expertise inspire implicitement la confiance du public. Selon lui, cette confiance ne doit pas servir à amplifier des scénarios insuffisamment expliqués. Lire le billet de Simon Willison.

Des scénarios peu détaillés sont au centre de la critique de Cantrill. Jacob Coxon cite notamment le piratage d’infrastructures critiques et des armes biologiques capables de provoquer une extinction. Le billet indique que ces exemples sont avancés sans explication complémentaire. Cantrill souligne que Coxon n’est pas spécialiste des infrastructures critiques. Il ajoute que Coxon n’est pas davantage expert des armes biologiques ou de la biologie de l’extinction. La critique ne nie pas que l’IA puisse poser des risques. Elle vise plutôt la manière de les présenter. Pour Cantrill, une extrapolation lointaine ne suffit pas à expliquer un mécanisme concret au public. Simon Willison relaie cette position dans son billet du 14 septembre.

Les alertes citent des risques précis

Le public fait confiance aux personnes qui parlent depuis un domaine d’expertise, selon Cantrill. Cette confiance crée une responsabilité lorsqu’un intervenant formule une alerte sur l’IA. Le public ne peut pas être supposé maîtriser simultanément les modèles de langage, les infrastructures critiques, les armes biologiques et la biologie de l’extinction. Cantrill estime donc que la charge de l’explication revient à ceux qui formulent ces affirmations. Il demande une prudence maximale lorsqu’un propos cherche à déclencher l’alarme. Son raisonnement relie la précision technique et la responsabilité publique. La discussion concerne ainsi moins une prédiction isolée que les conditions nécessaires pour la présenter de manière intelligible.

L’épisode Oxide prolonge cette discussion dans une conversation à laquelle Simon Willison a participé. Cantrill y revient sur ses doutes concernant les risques liés aux armes biologiques. Le passage indiqué commence à 51 minutes et 44 secondes. À 57 minutes et 4 secondes, il explique qu’il faut être prudent lorsque la peur remplit les espaces laissés par des scénarios non détaillés. Il demande notamment qu’un biologiste ou une personne expérimentée dans les armes biologiques puisse intervenir. Cette demande vise le mécanisme précis reliant l’IA à un tel risque. Cantrill dit aussi que ce sujet lui reste particulièrement problématique parce qu’il laisse beaucoup de place à l’imagination. Relire le billet consacré à cette réaction.

Cantrill demande des experts spécialisés

La peur amplifie les blancs, selon l’analyse rapportée par Willison. Lorsque le lien entre une capacité d’IA et un scénario extrême n’est pas détaillé, le public peut compléter lui-même les étapes manquantes. Cantrill associe ce phénomène à une contagion de la peur. Il rappelle que les affirmations spectaculaires ont atteint le débat général, notamment parce que l’importance de l’IA pousse naturellement à demander comment un tel scénario se produirait. Sa réponse porte sur la méthode. Les intervenants doivent expliciter les étapes, identifier leur domaine de compétence et solliciter les spécialistes concernés. Cette approche ne transforme pas une alerte en résultat établi. Elle distingue plutôt une hypothèse annoncée d’un mécanisme démontré.