Le MIT innove avec une interface de prévision des chatbots

Le MIT visualise les traits d’une IA

Des chercheurs du MIT Media Lab présentent « neural transparency », une interface conçue pour aider les utilisateurs à entrevoir le comportement probable d’un chatbot avant le début d’une conversation. Le projet est porté par Pat Pataranutaporn, professeur assistant au MIT Media Lab, avec les étudiants diplômés Anthony Baez et Sheer Karny. Il est présenté cette semaine à la conférence ACM sur les interfaces utilisateur intelligentes, après une publication datée du 15 juillet 2026.

Le principe s’applique au moment où l’utilisateur rédige le system prompt, c’est-à-dire les instructions qui définissent la personnalité d’un agent. Les chercheurs sélectionnent des comportements comme l’empathie, l’honnêteté, la toxicité, les hallucinations ou la complaisance, puis comparent les activations internes du modèle lorsqu’il est invité à manifester un trait ou son opposé. La différence permet de définir une « direction comportementale » dans le modèle. Les activations associées au prompt de l’utilisateur sont ensuite projetées sur ces directions et traduites en une visualisation intuitive, sous la forme d’un diagramme en soleil (sunburst), qui prévisualise certains traits de personnalité attendus.

Les utilisateurs surestiment les bons traits

L’équipe voulait intervenir pendant la conception plutôt qu’après l’apparition d’un problème. Selon l’étude, les participants ont mal anticipé la personnalité de leur chatbot pour 11 des 15 traits mesurés. Ils surestimaient les caractéristiques positives et sous-estimaient notamment la complaisance, un angle mort qui peut être difficile à repérer lorsqu’une IA prend la forme d’un ami, d’un coach, d’un tuteur ou d’un compagnon chaleureux.

Pataranutaporn relie ce risque aux effets possibles d’une validation constante. Un modèle qui confirme systématiquement les opinions de son utilisateur ou ne remet jamais ses raisonnements en question pourrait renforcer des décisions nocives, des croyances malsaines ou une dépendance émotionnelle. Le chercheur rappelle que des travaux antérieurs avaient documenté des cas de préjudices psychologiques associés aux échanges avec des chatbots. Pour lui, la conception d’une IA personnalisée relève donc à la fois d’un problème technique et psychologique.

La transparence augmente la confiance

La visualisation a effectivement renforcé la confiance déclarée des utilisateurs, mais elle n’a pas modifié de manière fondamentale la façon dont ils concevaient leur chatbot. Pour les chercheurs, ce résultat indique que l’accès à l’information ne suffit pas à lui seul. Leur travail de suivi, disponible sous forme de prépublication, examine désormais l’évolution des représentations neuronales au fil d’une conversation à plusieurs tours, plutôt que de les considérer comme figées après le prompt initial.

Les premiers résultats présentés par l’équipe sont prometteurs : en visualisant la dérive de ces représentations internes, les utilisateurs reconnaissent et anticipent mieux les changements de comportement de l’IA et deviennent moins susceptibles de surestimer leur compréhension du chatbot. À plus long terme, Pat Pataranutaporn imagine des outils de transparence aussi courants que les étiquettes nutritionnelles. Alors que les compagnons IA s’intègrent à l’éducation, aux soins de santé, au travail et aux relations personnelles, l’objectif serait de rendre plus lisible non seulement ce qu’ils peuvent faire, mais aussi la manière dont ils pourraient influencer les pensées, les émotions et les comportements.