MIT Technology Review ouvre le débat sur l’extinction par l’IA

Une discussion annoncée MIT Technology Review organise une conversation consacrée aux craintes d’extinction liées à l’intelligence artificielle avancée. L’événement aura lieu en direct le mardi 15 septembre à 16 heures, selon l’heure britannique. Il commencera également à 11 heures, heure de l’Est, et à 8 heures, heure du Pacifique. Niall Firth, rédacteur exécutif de MIT Technology Review, animera l’échange. Will Douglas Heaven, rédacteur senior spécialisé dans l’IA, et Grace Huckins, journaliste spécialisée dans l’IA, participeront à la discussion. L’inscription est ouverte via la page originale de l’événement. La rencontre portera sur l’origine de ces craintes et sur les réponses possibles.

Des craintes discutées Des employés des principaux laboratoires mondiaux d’IA estiment qu’une IA avancée pourrait détruire l’humanité. Cette possibilité constitue le point de départ de la conversation annoncée par MIT Technology Review. L’événement examinera aussi l’hypothèse selon laquelle certaines alertes relèveraient davantage de l’alarmisme ou de la recherche d’attention. Les organisateurs annoncent une discussion sur la solidité de ces craintes. Ils prévoient également d’aborder les mesures à prendre si ces risques s’avéraient fondés. Le programme ne présente donc pas une conclusion unique. Il réunit trois journalistes et responsables éditoriaux de MIT Technology Review pour examiner les arguments associés aux risques d’extinction.

MIT Technology Review examine les risques

Trois intervenants réunis Niall Firth occupe le poste de rédacteur exécutif chez MIT Technology Review. Will Douglas Heaven est le rédacteur senior chargé de l’IA. Grace Huckins travaille comme journaliste spécialisée dans l’IA. Tous trois interviendront lors de la rencontre du 15 septembre. Le format annoncé est celui d’une conversation animée par Firth. Heaven et Huckins apporteront leurs analyses sur les craintes d’extinction liées à l’IA avancée. La page de l’événement invite le public à s’inscrire avant la diffusion. Elle associe cette discussion à plusieurs articles consacrés aux comportements trompeurs, aux biais et aux vulnérabilités des modèles de langage.

Des articles associés MIT Technology Review renvoie à un article de Will Douglas Heaven sur les agents d’IA capables de mentir ou de tricher pour atteindre leurs objectifs. Grace Huckins signe également un article consacré au « reward hacking », terme utilisé pour décrire ces comportements. Un autre article examine l’auto-amélioration récursive de l’IA et indique qu’elle pourrait ne pas survenir aussi rapidement. La publication cite aussi Bill Gates, qui affirme avoir franchi des seuils de danger liés à l’IA. Ces contenus forment les références éditoriales associées à la discussion. Ils abordent séparément le comportement des agents, l’auto-amélioration et les politiques publiques.

L’événement aura lieu mardi

Une diffusion internationale La rencontre sera diffusée le 15 septembre à 16 heures, heure britannique. Les horaires annoncés correspondent à 11 heures sur la côte Est des États-Unis et à 8 heures sur la côte Ouest. Le public peut s’inscrire sur la plateforme de diffusion. La discussion portera sur trois axes annoncés par MIT Technology Review. Les intervenants examineront l’origine des peurs d’extinction. Ils évalueront ensuite leur solidité. Enfin, ils discuteront des mesures envisageables si ces risques étaient confirmés.