Bill Gates et Evan Hubinger face au risque d’extinction par l’IA

Bill Gates alerte Le 26 août 2026, Bill Gates a publié un mémo de 6 000 mots sur son site personnel. Intitulé « The turbulent AI era is here. The choices we make now are critical », le texte décrit la transition vers l’ère de l’IA comme l’une des périodes les plus turbulentes de l’histoire humaine. Gates estime que l’IA peut devenir une force bénéfique si le monde adopte les bonnes mesures. Son avertissement repose donc sur les choix humains actuels. Il ne présente pas une issue inévitable du développement technologique. Le mémo complet est disponible sur Gates Notes.

Anthropic chiffre le risque Le 9 septembre 2026, Evan Hubinger a répondu sur X à une publication de Jacob Coxon. Ce chercheur dirige l’organisation Alignment Science d’Anthropic. Il a écrit que l’IA pourrait tuer tous les humains et évalué ce risque à plus de 10 % dans la prochaine décennie. Hubinger a aussi déclaré qu’Anthropic essayait d’agir au mieux. Il a toutefois indiqué que l’entreprise ne disposait pas encore d’un plan pour résoudre l’alignement d’une superintelligence. Selon lui, elle n’est pas clairement en bonne voie pour résoudre ce problème. Sa réponse est consultable sur X.

L’alignement reste sans solution

Le contrôle reste central L’alignement désigne le lien entre les actions d’une IA et les intentions de ses développeurs. Une IA mal alignée pourrait prendre des décisions non prévues et attaquer des cibles non souhaitées. Le débat porte aussi sur une éventuelle intelligence artificielle générale, notion qui recouvre une IA capable d’égaler ou de dépasser les humains dans toutes les tâches cognitives et tous les domaines économiques. L’article associe une AGI mal alignée à une singularité technologique. Dans ce scénario décrit par l’auteur, la technologie accélérerait au-delà du contrôle humain et pourrait se reprogrammer elle-même.

Les marchés poussent Le texte avance que le développeur de l’IA la plus puissante pourrait devenir le développeur le plus riche et le plus puissant. Stephen Cobb, ancien chercheur principal en sécurité chez ESET, défend une lecture différente. Il estime que l’IA ne tuera pas l’humanité sans autorisation ou activation humaines. Dan Tynan oppose à cette confiance l’exemple des cigarettes. Il rappelle que les entreprises du tabac connaissaient leurs dangers pendant des décennies, tout en sachant que leurs produits étaient addictifs et répandus. Ces deux positions opposent la confiance dans le bon sens humain à la pression des forces commerciales.

OpenAI ralentit certains entraînements

OpenAI ajuste le rythme Le 11 septembre 2026, Bloomberg a rapporté qu’OpenAI avait ralenti certaines étapes du développement de modèles. L’entreprise avait aussi suspendu récemment certains entraînements internes liés à des préoccupations de sécurité. En juillet, Sam Altman avait déclaré avoir échangé avec des responsables de la Maison-Blanche sur la nécessité de ralentir le développement de l’IA. Le 12 septembre, le dirigeant a discuté de cet arbitrage avec Alyson Shontell, rédactrice en chef de Fortune. Ces décisions montrent que la sécurité intervient dans le calendrier de développement présenté par OpenAI, sans établir une résolution du problème d’alignement.

Le raisonnement recule Le mémo de Bill Gates évoque aussi les effets cognitifs d’un usage intensif de l’IA. Il cite une enquête préliminaire associant une utilisation plus importante de l’IA à une baisse de la pensée critique. L’effet aurait été plus marqué chez les jeunes. Cette observation concerne même une IA alignée sur des objectifs jugés bénéfiques. L’article pose alors une seconde question, distincte du risque d’extinction humaine. La capacité à raisonner par soi-même pourrait se dégrader avec l’usage de ces systèmes. Gates relie cette capacité à ce qui distingue l’humanité des autres animaux, mais son mémo présente cette enquête comme préliminaire.

Le débat s’élargit Les déclarations de Gates, Hubinger, Cobb, Tynan et Altman couvrent plusieurs niveaux de risque. Gates insiste sur les décisions collectives à prendre avant la transition vers l’ère de l’IA. Hubinger met en avant l’absence de solution établie pour l’alignement d’une superintelligence. Cobb fait confiance à la capacité humaine à empêcher un usage destructeur. Tynan souligne le poids possible de l’addiction et de la diffusion commerciale. OpenAI a, de son côté, ralenti certaines activités pour des raisons de sécurité. La discussion porte donc à la fois sur le contrôle des systèmes et sur la préservation du raisonnement humain.