Healthwatch England révèle que des patients corrigent l’IA

Healthwatch England alerte sur les risques des scribes IA utilisés pendant les consultations médicales. Ces outils écoutent les échanges entre patients et médecins, puis produisent une transcription ou une synthèse. Selon le Guardian, des patients ont identifié des erreurs que des médecins généralistes n’avaient pas repérées. Une patiente, elle-même professionnelle du NHS, a découvert que le résumé de son IRM indiquait « demyelination ». Le terme désigne une atteinte nerveuse sérieuse pouvant conduire à la sclérose en plaques. Le dossier devait indiquer « null demyelination ». L’hôpital a corrigé l’erreur après l’intervention de la patiente.

Des erreurs aux conséquences médicales concernent aussi les médicaments et les consignes de traitement. Dans un cas, un scribe IA a confondu le médicament prescrit par un généraliste avec un autre nom proche. La patiente a repéré la confusion avant le médecin. Dans un autre cas, une lettre générée par IA a omis une consigne donnée par un consultant hospitalier. Le patient devait demander une nouvelle ordonnance à son généraliste pour son traitement contre la migraine. Cette omission aurait pu compliquer l’accès au médicament. Healthwatch England affirme avoir recueilli plusieurs témoignages similaires. L’organisation avertit que les erreurs peuvent rester dans les dossiers si les patients ne les détectent pas.

Le NHS utilise 27 scribes différents

Le déploiement s’accélère dans le NHS anglais, qui utilise déjà 27 scribes IA différents auprès de généralistes et de médecins hospitaliers. Le plan de santé anglais sur dix ans prévoit ces outils pour libérer les professionnels d’une partie des tâches administratives. Le gouvernement les associe à un passage d’un service analogique à un service numérique. Healthwatch England demande toutefois des règles claires pour signaler et corriger les erreurs produites par les outils ou par leurs utilisateurs. Rachel Power, directrice générale de la Patients Association, estime que la confiance nécessite une communication solide et un véritable partenariat avec les patients. Elle juge ces deux conditions absentes actuellement.

La supervision réglementaire inquiète Healthwatch England, car la Medicines and Healthcare products Regulatory Agency a décidé de ne pas classer les scribes IA comme des dispositifs médicaux. Cette décision signifie qu’aucune supervision nationale anglaise ne vérifiera leur sécurité et leur efficacité. Des ministres ont aussi été avertis que le NHS et les médecins pourraient faire l’objet de poursuites après des erreurs liées à l’IA. À Rotherham, des patients ont par ailleurs signalé qu’un réceptionniste IA utilisé par certains cabinets comprenait mal leurs accents du Yorkshire. Le plan de santé anglais prévoit pourtant un rôle central pour ces outils.

Les médecins doivent vérifier chaque transcription

Les hallucinations persistent dans certains comptes rendus médicaux. La généraliste londonienne Shier Ziser Dawood a raconté qu’un scribe avait écrit qu’elle avait conseillé à une patiente de continuer le Prozac. Elle n’avait pourtant ni prescrit ni évoqué ce médicament. Dans un article du British Journal of General Practice, elle décrit les scribes comme potentiellement ambivalents pour les médecins de famille. Elle estime que la vérification de chaque transcription réduit le gain de temps attendu. Les responsables du NHS pourraient néanmoins demander aux généralistes de recevoir deux patients supplémentaires par jour, alors que les consultations anglaises sont déjà parmi les plus courtes au monde.