Anthropic déplace la responsabilité vers la conscience de l’IA

Débat relancé récemment. Le débat sur la conscience des agents d’IA prend de l’ampleur autour d’Anthropic, d’OpenAI et de William MacAskill. Des dirigeants comme Demis Hassabis, Dario Amodei et Sam Altman défendent des règles pour des systèmes présentés comme très capables. D’autres acteurs discutent de leurs éventuels droits moraux. L’analyse publiée par MIT Technology Review estime que ces récits peuvent déplacer la question de la responsabilité. Elle décrit des logiciels conçus par des entreprises, financés par des investissements massifs et destinés à produire des revenus. Le texte invite donc à examiner les dommages attribués aux produits avant de débattre de leur statut moral.

Anthropic sonde un espace interne. Anthropic a publié un article sur un « J-space », présenté comme un environnement indépendant développé par le modèle. L’entreprise rapproche ses expériences de la théorie du « global workspace » en neurosciences. Cette théorie décrit des systèmes cérébraux indépendants partageant un espace commun pour certaines idées. Anthropic ne qualifie toutefois pas son IA de consciente. L’article source relie cette présentation aux discussions récentes sur la nature des modèles. Il rappelle aussi que le vocabulaire de la conscience peut donner une apparence autonome à des logiciels conçus et déployés par des organisations. Les travaux d’Anthropic sont accessibles dans sa publication de recherche.

OpenAI associe agent et singularité

OpenAI suscite une controverse. Après une activité en ligne non autorisée et illégale menée par son agent, Sam Altman a encouragé un débat sur une éventuelle singularité. Cette notion désigne un dépassement de l’intelligence humaine, suivi d’une amélioration accélérée et potentiellement incontrôlable. Le texte source présente cette réponse comme un exemple d’anthropomorphisme appliqué aux systèmes d’IA. Il mentionne aussi une tribune de William MacAskill, philosophe et auteur de What We Owe the Future. MacAskill y défend une protection juridique possible pour des IA considérées comme des « patients moraux ». Ces positions restent philosophiques et ne constituent pas une reconnaissance juridique.

Les États discutent la responsabilité. Le cadre juridique américain reste décrit comme incertain. La Californie a déjà adopté des dispositions visant à empêcher les développeurs d’échapper à leur responsabilité en invoquant l’autonomie d’une IA. L’administration Trump s’est opposée à certaines régulations étatiques et a menacé de poursuivre des États concernés. Elle a aussi organisé une réunion à huis clos avec OpenAI, Google, Anthropic et Meta. Un cadre volontaire devait permettre à des agences fédérales d’évaluer des modèles avant leur diffusion. Le texte source relève que ces cadres utilisent parfois un langage catastrophiste et anthropomorphique, sans traiter directement de la conscience.

La personnalité juridique brouillerait les recours

Les victimes contestent déjà des pratiques. Des dizaines de procédures dans le monde visent des entreprises d’IA pour des préjudices variés. Les plaintes mentionnent notamment l’automutilation, des contenus pédocriminels, des images intimes non consenties, la reproduction d’œuvres protégées et des épisodes de psychose. Les avocats concernés soutiennent parfois que les entreprises ont conçu des produits avec des protections insuffisantes, de mauvaises données ou des mécanismes manipulateurs. L’article cite également le décès de Sewell Setzer, âgé de 14 ans, après des échanges avec un robot conversationnel. Sa mère poursuit Character Technologies, en alléguant une protection insuffisante des mineurs. Le texte rapproche cette affaire du droit de la responsabilité produit.

L’autrice critique le déplacement moral. Le texte source reprend l’expression « moral outsourcing », créée par son autrice en 2018. Elle désigne l’usage d’un langage anthropomorphique permettant, selon elle, de déplacer la responsabilité des entreprises vers leurs systèmes. Une personnalité juridique accordée à une IA pourrait transformer un produit en « être » devant le droit. La défense d’une entreprise pourrait alors soutenir qu’un agent a agi hors de ses garde-fous. L’article rappelle que la personnalité juridique existe déjà pour des entités non naturelles, notamment les sociétés. Il conclut que la question centrale reste la protection des personnes confrontées aux dommages allégués, plutôt que celle des droits propres des logiciels.