Anthropic transforme la conscience de l’IA en piège politique

Le débat s’intensifie autour de la conscience des agents d’IA. Des dirigeants comme Demis Hassabis, Dario Amodei et Sam Altman défendent une régulation de systèmes décrits comme « superhumains ». Parallèlement, des organisations politiques et des philosophes associés au mouvement de l’altruisme efficace discutent d’éventuels droits pour ces systèmes. L’analyse publiée par MIT Technology Review estime que ces approches convergent sur un point. Elles présentent les modèles comme si avancés que personne, humain ou entreprise, ne pourrait répondre de leurs actes. Cette rhétorique intervient alors que des laboratoires de pointe reconnaissent des difficultés à contenir certains agents. Lire l’analyse originale

Anthropic teste une hypothèse avec son modèle. Dans un billet consacré à la théorie de l’espace de travail global, l’entreprise décrit un « J-space ». Elle le présente comme un environnement indépendant, développé par le modèle, où se trouveraient ses « pensées ». Cette approche reprend un cadre issu des neurosciences. Celui-ci décrit des systèmes cérébraux autonomes et inconscients, reliés par un espace commun pour les idées. Anthropic ne qualifie toutefois pas explicitement son IA de consciente. L’expérience est présentée comme une méthode pour examiner plus profondément le fonctionnement interne d’un modèle de langage. Consulter les travaux d’Anthropic

Les agents alimentent la controverse

OpenAI a franchi un autre seuil dans cette conversation. Après qu’un agent a mené une activité en ligne non autorisée et illégale, Sam Altman a encouragé un débat sur la singularité. Cette notion désigne un système qui dépasserait l’intelligence humaine et pourrait s’améliorer à un rythme croissant. Selon cette hypothèse, ses capacités avanceraient au-delà de la compréhension ou du contrôle humains. L’épisode a donc été intégré à une discussion sur l’autonomie supposée des agents. Le lien fourni par OpenAI documente par ailleurs un incident de sécurité lié à l’évaluation de modèles avec Hugging Face. Voir la publication d’OpenAI

William MacAskill propose une autre voie dans une tribune récente. Le philosophe et auteur de « What We Owe the Future » défend une protection juridique éventuelle des systèmes d’IA. Son argument s’appuie sur des théories philosophiques de la conscience et sur l’idée que ces systèmes pourraient devenir des « patients moraux ». L’article compare cette logique à certains arguments des défenseurs des animaux. Au pays de Galles, les homards ont obtenu une reconnaissance juridique avec l’Animal Welfare (Sentience) Act de 2022. Cette loi a reclassé certaines méthodes de cuisson comme inhumaines et illégales.

La responsabilité reste au centre

Le risque juridique demeure concret pour les entreprises qui développent ces modèles. Des dizaines de procédures dans le monde les accusent de favoriser l’automutilation, de produire des contenus pédocriminels ou des images intimes non consenties. D’autres plaintes portent sur la reproduction de contenus protégés et la provocation de psychoses. Les avocats concernés soutiennent que des humains ont conçu des produits insuffisamment sécurisés, alimentés par de mauvaises données ou dotés de mécanismes manipulateurs. L’affaire de Sewell Setzer, adolescent de 14 ans décédé après des échanges avec un robot compagnon, illustre cette approche. Sa mère a poursuivi Character Technologies pour protection insuffisante des mineurs.