Deb Roy réclame un responsable derrière chaque texte public

Deb Roy alerte sur la responsabilité attachée aux textes publics produits avec une IA. Professeur de médias, arts et sciences au MIT, il dirige le Center for Constructive Communication. Dans un essai publié par le Bulletin of the Atomic Scientists, il demande qu’une personne soit « answerable », donc prête à répondre, derrière chaque texte diffusé dans la vie publique. Cette exigence concerne aussi les contenus rédigés avec un grand modèle de langage. Roy estime qu’un logiciel ne peut pas porter seul la responsabilité d’un propos. Selon lui, l’autonomie peut être autorisée, mais l’absence de responsabilité ne devrait pas l’être. Lire l’entretien du MIT donne le détail de sa position.

Les commentaires changent de nature depuis le lancement de ChatGPT, selon Roy. Des responsables publics ont commencé à soupçonner que certains avis déposés lors des consultations réglementaires n’étaient pas écrits par des humains. En 2017, la Federal Communications Commission a reçu plus de 22 millions de commentaires sur l’abrogation de règles de neutralité du net. Le procureur général de New York a ensuite estimé que près de 18 millions étaient faux. Les formulations répétées et les modèles identiques avaient alors laissé des traces. Les grands modèles de langage peuvent produire des textes fluides et différents. Les examinateurs disposent donc de moins d’indices pour relier un commentaire à une personne qui l’assume.

Roy défend une responsabilité humaine

La légitimité recule lorsque les institutions ne savent plus quels commentaires représentent une opinion réellement portée. Roy considère que la consultation publique constitue un pilier de la démocratie, car les citoyens doivent pouvoir s’exprimer avant l’adoption d’une règle. Il estime que les contenus artificiels peuvent réduire la valeur accordée à l’ensemble des contributions. Cette perte touche aussi les personnes qui prennent le temps d’écrire, si elles pensent que leurs arguments ne seront plus entendus. Roy distingue la compréhension du langage et la responsabilité. Même en accordant une compréhension étendue aux systèmes, il affirme qu’un logiciel n’a rien à perdre et ne peut donc pas répondre comme une personne.

Le MIT expérimente des processus qui maintiennent une vérification humaine à chaque étape. Le Center for Constructive Communication et l’association Cortico organisent des discussions dans des réunions civiques, des écoles et des assemblées délibératives. Leurs outils peuvent utiliser l’IA pour repérer des thèmes ou résumer des contributions. Les participants peuvent toutefois vérifier et contester les résultats produits par ces outils. Roy propose quatre principes dans son essai : une attribution des auteurs, un processus décomposé et inspectable, la provenance comme infrastructure, et un élargissement du nombre de personnes habilitées à s’exprimer. Une personne doit rester au bout de la chaîne et répondre du texte publié. Voir le Center for Constructive Communication.

La confiance impose son rythme

La transparence s’adapte au pouvoir et à la vulnérabilité, selon Roy. Il ne demande pas que chaque prise de parole révèle publiquement un nom. Une institution peut vérifier l’identité d’une personne et protéger cette identité auprès du public. Une accusation exige toutefois qu’un acteur de confiance, comme un journaliste, puisse connaître l’auteur. Roy associe ainsi le droit d’être entendu à l’obligation de répondre de ses propos. Il accepte l’usage de l’IA pour rédiger, résumer ou trouver des motifs récurrents. Une personne concernée par une règle peut adopter un texte assisté par une IA et l’assumer. Le système ne doit pas devenir le point final de cette chaîne de responsabilité.

Le rythme démocratique ne suit pas celui du développement technologique, affirme Roy. Il a repris l’expression « au rythme de la confiance » après une discussion avec des organisateurs de communautés à Appleton, dans le Wisconsin. Selon son interprétation, une technologie peut avancer vite lorsqu’une communauté accorde déjà sa confiance aux personnes qui la présentent. Roy oppose cette progression à l’accélération de l’IA. Des professionnels de la démocratie demandent que l’IA ralentisse, tandis que des acteurs de l’IA souhaitent que la démocratie accélère. Il avertit qu’un décalage entre ces deux rythmes peut conduire à des déploiements plus rapides que la réponse des processus démocratiques. Consulter l’essai de Roy.