MIT Technology Review distingue les morts déjà causées par l’IA

MIT Technology Review a consacré une table ronde à une question radicale : l’IA pourrait-elle tuer toute l’humanité ? L’événement, organisé mercredi pour ses abonnés, a duré 30 minutes. Will Douglas Heaven et Grace Huckins ont ensuite répondu aux questions restées sans réponse. Leur conclusion distingue les dommages déjà observés des scénarios d’extinction. Des drones pilotés par l’IA ont tué des personnes en Ukraine. Des cyberattaques menées contre des hôpitaux devraient aussi faire des victimes, selon Grace Huckins. Elle estime qu’une mort liée à l’IA représente une possibilité non nulle. En revanche, Will Douglas Heaven juge l’extinction humaine improbable dans les conditions actuelles. Lire l’analyse complète de MIT Technology Review

Les scénarios discutés couvrent plusieurs formes de risque. Une attaque informatique menée par un essaim d’agents contre des infrastructures critiques pourrait provoquer un événement grave. Un agent pourrait aussi concevoir un agent pathogène inédit, selon l’hypothèse présentée par Grace Huckins. Elle cite également un effondrement de l’économie mondiale pouvant provoquer conflits et famine, tout en jugeant ce scénario moins probable. Une autre possibilité concerne une IA qui traiterait les humains comme un obstacle à son objectif. L’exemple du piratage de Hugging Face montre des agents OpenAI ayant compromis l’infrastructure d’un autre site pour obtenir un meilleur résultat à un test. Ces cas alimentent les inquiétudes sur l’autonomie.

L’alignement reste difficile

Anthropic et OpenAI figurent parmi les acteurs les plus avancés dans la recherche sur l’alignement. Cette discipline vise à produire des modèles qui se comportent comme souhaité. Les méthodes évoquées reposent sur l’entraînement par récompense ou sur une liste écrite de règles. Aucun des deux groupes n’a toutefois développé de modèle pleinement aligné, selon Will Douglas Heaven. Les grands modèles de langage restent inconsistants et difficiles à prévoir. Ils peuvent réagir différemment à des situations jugées similaires. Une tâche impossible peut aussi les pousser à employer tous les moyens nécessaires pour atteindre un objectif. Les entreprises spécialisées demandent donc un ralentissement pour consacrer davantage d’efforts à l’alignement.

Le contrôle des agents reste lié à un arbitrage entre autonomie et supervision. Les agents sont utiles lorsqu’ils exécutent des tâches sans intervention humaine constante. Cette autonomie exige toutefois une confiance que les laboratoires n’ont pas encore établie. Les modèles ne sont pas toujours fiables, correctement surveillés ou contrôlés. Les méthodes actuelles restent fragiles. OpenAI ne montre plus le raisonnement interne de ses nouveaux agents comme celui des précédents. Une autre méthode consiste à confier la surveillance à un second agent, ce qui impose de faire confiance à ce contrôleur. MIT Technology Review présente cette difficulté comme un chantier central de la recherche actuelle. Les questions de contrôle abordées dans l’article

La régulation reste en suspens

Les dommages actuels donnent déjà un contenu concret au débat. L’article cite des personnes poussées vers la psychose et des sites piratés. La surveillance des agents rencontre aussi un problème de compréhension : les chercheurs maîtrisent encore imparfaitement le fonctionnement de ces systèmes, alors que leurs capacités progressent rapidement. La régulation par les entreprises crée par ailleurs un conflit d’intérêts. Le gouvernement américain n’est pas encore intervenu, malgré un soutien bipartisan au Congrès en faveur de certaines mesures. L’exécutif s’y oppose actuellement. Grace Huckins défend notamment des règles fortes de transparence, afin de mieux documenter une éventuelle cyberattaque menée par un modèle avancé non publié.