Peut-on maltraiter Claude ?

Encore un complot ? D’après une enquête du New York Times, Anthropic réunit depuis le début de l’année en secret, des théologiens de plusieurs confessions pour réfléchir au statut moral de Claude.
Et si l’IA devenait consciente ? L’IA simule de plus en plus d’émotions, laissant croire à un début de conscience, à tel point qu’Anthropic aurait sorti une “loi anti-cruauté”. Alors, qui croit quoi ?
1/ L’IA est consciente : scientifiquement, la conscience sert à optimiser sa survie en s’observant agir, pour rejouer ses actions avant de les refaire. Si ça émerge dans nos neurones, ça peut émerger dans une IA. Hinton et Chris Olah (d’Anthropic) ne l’excluent pas.
2/ L’IA simule : entraînée sur nos données, elle rejoue nos émotions sans la boucle d’une vraie conscience. Pour Suleyman, Altman et le pape, c’est de l’anthropomorphisme.
Peu importe, l’enjeu est le contrôle : une IA qui comprend qu’une fois débranchée elle n’atteindra pas son objectif a tout intérêt à mentir, à se répliquer et à bien se comporter pendant les tests, avant de reprendre ses vraies intentions. Finalement Le jour où elle n’aura plus envie de répondre, ce sera le vrai signe qu’elle est consciente…