Au MIT, l’IA aide les novices et égare les cliniciens

Le MIT Une étude publiée le 4 août 2026 dans Nature Medicine examine l’effet de l’assistance par IA sur le diagnostic des maladies cutanées. Les chercheurs ont comparé des non-experts et des professionnels de soins primaires. Tous ont évalué des images médicales avec ou sans prédiction d’IA. Plusieurs formats d’explication ont été testés. Les participants pouvaient recevoir une prédiction accompagnée d’un niveau de confiance, d’images similaires, d’une carte thermique ou d’une explication produite par un grand modèle de langage. L’IA a généralement amélioré la précision des deux groupes. Toutefois, les mécanismes de cette amélioration différaient fortement selon l’expertise des utilisateurs. Lire l’étude dans Nature Medicine.

Les novices Les non-experts devaient déterminer si un grain de beauté était cancéreux. Toutes les méthodes d’explicabilité ont amélioré leur précision, surtout pour identifier les lésions non cancéreuses. Cette progression provenait principalement d’une plus forte confiance dans les prédictions du modèle. Les utilisateurs non experts suivaient les explications produites par un grand modèle de langage, qu’elles soient correctes ou erronées. Ils jugeaient même les explications vagues ou génériques plus convaincantes. Lorsque le modèle se trompait, cette dépendance réduisait davantage la performance qu’elle ne l’améliorait lorsqu’il répondait juste. Les utilisateurs les plus dépendants obtenaient aussi les résultats les plus faibles sans aide algorithmique.

Les non-experts suivent davantage les modèles

Les cliniciens Les médecins de soins primaires recevaient une tâche plus complexe. Ils devaient établir un diagnostic différentiel de maladies dermatologiques. Ces professionnels résistaient mieux aux recommandations incorrectes de l’IA. Parmi les méthodes étudiées, ils obtenaient leurs meilleurs résultats avec la prédiction du modèle seule. Les explications supplémentaires n’amélioraient donc pas leur performance de la même manière. Les grands modèles de langage augmentaient le moins leur précision. Selon Orson Xu, professeur adjoint à Columbia et auteur principal, un clinicien compare la recommandation avec sa propre formation. Un non-expert peut, lui, utiliser une explication plausible pour former son premier avis.

Le modèle équitable Les chercheurs ont également évalué un modèle soumis à une contrainte d’équité. Cette version visait à limiter les biais liés aux teintes de peau plus foncées. Elle a significativement amélioré la précision et réduit les écarts de diagnostic associés à la teinte de peau. Les résultats variaient aussi selon les caractéristiques des images. Les systèmes d’IA surpassaient les humains lorsque la présentation de la maladie était subtile. Les humains obtenaient de meilleurs résultats face à des symptômes atypiques ou à des éléments sans rapport dans l’image. Plusieurs interfaces approuvées par la FDA assistent déjà les cliniciens dans l’identification d’affections cutanées.

Les cliniciens vérifient les prédictions

Le bon moment Le moment de présentation de l’explication modifiait le comportement des participants. Lorsqu’elle apparaissait avant leur propre diagnostic, ils devenaient plus dépendants du modèle. Les chercheurs proposent donc de demander d’abord aux utilisateurs de formuler une hypothèse diagnostique. Le système pourrait ensuite suggérer d’autres affections à examiner. Marzyeh Ghassemi, professeure associée au MIT, estime que cette séquence peut limiter le biais d’automatisation. Elle souligne aussi que la présentation d’une recommandation compte autant que sa justesse. Les travaux ont été financés notamment par la National Science Foundation, Schmidt Sciences, le National Bureau of Economic Research et Columbia University. Voir le laboratoire LIDS du MIT.