Des salariés d’Anthropic envisagent un refuge si l’IA déraille

Des employés d’Anthropic envisagent d’acheter des terrains isolés pour se préparer à un scénario où l’IA deviendrait incontrôlable. Cette information est rapportée par The Decoder. La démarche concerne certains salariés de l’entreprise. Elle ne constitue pas une annonce officielle d’Anthropic. Le projet évoqué repose sur une préparation matérielle. Les terrains recherchés seraient éloignés des zones densément peuplées. Le scénario envisagé associe cette implantation à une éventualité où l’IA « déraillerait ». L’article présente cette idée comme une réflexion portée par une partie des employés. Il ne la décrit pas comme une mesure collective de l’entreprise.

Une idée ancienne est également attribuée à d’anciens employés d’Anthropic. Ceux-ci indiquent que la discussion existe depuis les premiers jours de l’entreprise. Les échanges auraient porté sur l’achat de terres éloignées. Ils auraient aussi abordé une relocalisation vers une installation gouvernementale située dans le désert. Ces deux options apparaissent comme des possibilités discutées, plutôt que comme des décisions annoncées. Le lien entre ces discussions et le risque lié à l’IA est explicite dans le récit rapporté. Anthropic apparaît ainsi associée à une culture de prudence face aux scénarios d’IA incontrôlée. La discussion remonterait aux débuts de la société.

Anthropic discute de refuges isolés

Le mouvement altruiste constitue un autre élément du récit. L’article relie les employés d’Anthropic à la sous-culture de l’altruisme efficace. Cette sous-culture est présentée comme un environnement intellectuel lié à la réflexion sur les risques futurs. Une page de présentation de l’altruisme efficace décrit ce courant comme une approche orientée vers l’amélioration du bien-être. Dans le cas rapporté, le lien concerne l’environnement culturel des employés. Il ne prouve pas que tous les salariés partagent la même stratégie. Il n’établit pas non plus qu’Anthropic soutient l’achat de terrains. Il situe toutefois ces discussions dans une communauté attentive aux risques liés à l’IA.

Eliezer Yudkowsky alertait déjà sur l’IA incontrôlée au milieu des années 2000. Son nom apparaît dans cette histoire comme une référence antérieure sur ce risque. Cette chronologie place les discussions actuelles dans une préoccupation plus ancienne. Les anciens employés d’Anthropic associent cette préoccupation aux débuts de l’entreprise. Les échanges mentionnés incluaient un terrain isolé et une installation gouvernementale dans le désert. Aucun de ces scénarios n’est présenté comme réalisé. L’élément établi concerne l’existence de discussions et l’intention envisagée par certains employés. Pour suivre les informations publiées, le récit peut être consulté dans l’article original.

Les scénarios restent au stade des discussions

Le calendrier des échanges remonte donc aux premiers jours d’Anthropic, selon d’anciens employés cités dans le récit. Les options évoquées comprennent l’achat de terres éloignées et une installation gouvernementale dans le désert. Leur objectif commun serait de préparer un scénario où l’IA deviendrait incontrôlable. Les employés concernés sont décrits comme liés à la sous-culture de l’altruisme efficace. Eliezer Yudkowsky avait déjà formulé des avertissements sur l’IA incontrôlée au milieu des années 2000. Ces éléments relient une préoccupation ancienne à des discussions internes ou personnelles rapportées autour d’Anthropic. Ils ne transforment pas ces hypothèses en décision annoncée par l’entreprise.