Autor – Prof. Dr. David Schwappach

Le développement et la diffusion de grands modèles de langage dans les soins de santé courants ouvrent de nombreuses perspectives, mais comportent également des risques. Les grands modèles de langage devraient permettre d’améliorer la prise en charge et les traitements en complétant les capacités humaines. Mais on peut également se demander si les modèles de langage utilisés ne constituent pas eux-mêmes un risque. Les domaines d’application importants des modèles de langage qui présentent un intérêt particulier pour la sécurité des patients sont par exemple : 

• Assistance dans les tâches de routine, p. ex. rapport de sortie, conciliation médicamenteuse, documentation de la consultation
• Soutien lors de l’établissement du diagnostic, p. ex. aux urgences
• Détection précoce de la détérioration de l’état de santé des patients, p. ex. septicémie, événements indésirables liés aux médicaments, complications chirurgicales

En matière d’assistance aux tâches routinières, l’objectif principal est de remplacer  des ressources humaines limitées par des modèles de langage. Comme les modèles de langage nécessitent moins de temps pour créer des rapports de sortie et des documentations de consultations médicales, le gain d’efficacité potentiel est considérable. Pour la sécurité des patients, il est avant tout important que les tâches transférées soient effectuées avec le moins d’erreurs possible. Les résultats des études à cet égard sont mitigés et reposent principalement sur des scénarios simulés. Rosenberg et al. ont p. ex. montré que ChatGPT obtenait des résultats similaires à ceux des médecins dans la rédaction de rapports de sortie orthopédiques [34]. Toutefois, on ne sait pas encore comment le modèle de langage traite les informations manquantes ou s’il signale lorsque la documentation initiale est de mauvaise qualité. Les premières évaluations des « Ambient Digital Scribes », c’est-à-dire les grands modèles de langage qui « écoutent » les consultations entre médecins et patient-e-s et les résument de manière structurée, montrent que les omissions sont fréquentes [35]. Ces omissions d’informations importantes peuvent présenter des risques considérables pour les patient-e-s, précisément parce qu’elles sont très difficiles à identifier a posteriori (voir ci-dessous « Surveillance humaine »).

Un champ d’application important des grands modèles de langage pourrait être le soutien de professionnels de la santé lors de l’établissement du diagnostic, de la détection précoce de la détérioration de l’état clinique ou de l’apparition de complications. Ces situations sont très difficiles au quotidien, notamment en raison du flot d’informations. C’est pourquoi disposer de modèles de langage fiables pour compléter les capacités humaines serait un atout majeur pour garantir la sécurité des soins. Cependant, les résultats obtenus jusqu’à présent doivent être considérés avec prudence. Lors d’une grande étude randomisée en Suisse, un générateur de diagnostic différentiel assisté par IA n’a pas apporté d’avantage en cas d’urgence par rapport à un diagnostic purement humain [35]. Aux États-Unis, des modèles de prédiction basés sur l’IA sont déjà en partie profondément intégrés dans les systèmes informatiques hospitaliers, sans que les algorithmes soient transparents. Le modèle propriétaire de prédiction de la septicémie ESM utilise par exemple environ 80 paramètres (p. ex. données vitales) de patient-e-s, calcule « en temps réel » la probabilité d’une septicémie et génère des alertes et des recommandations à l’intention de l’équipe soignante. Plusieurs années plus tard, des études de validation externes ont pu montrer que les résultats n’étaient pas aussi positifs que prévu [36], [37], [38]. Cet exemple montre clairement que, pour de nombreux grands modèles de langage, les preuves scientifiques qui répondraient aux normes méthodologiques applicables aux innovations médicales (p. ex. dans le domaine des médicaments) font encore largement défaut. Cette « diffusion non contrôlée » représente un risque pour la sécurité des patients. Ce risque est aggravé par le fait que l’on peut s’attendre à un paradoxe technologique dans le domaine des modèles de langage, comme cela a déjà été observé avec la diffusion d’autres technologies dans le secteur de la santé, par exemple les systèmes d’aide à la décision clinique : en très peu de temps, il ne restera pratiquement plus d’individus ni d’organisations disposés à participer à des études comparatives sans recours à l’IA, même si les preuves existantes demeurent limitées [39].

Surveillance humaine ?
​​​​​​​Dans le domaine médical, on fait régulièrement référence à la « surveillance humaine » dans le cadre des applications de l’IA. Cela signifie que l’IA doit être considérée comme une « source de suggestions », mais que les décisions relatives aux soins de santé prodigués à chaque patient-e doivent toujours être prises par un professionnel de la santé humain. Les professionnels cliniques doivent donc contrôler l’IA, la valider et rechercher les erreurs, p. ex. dans les lettres de sortie, la documentation d’une consultation ou un plan de médication. Cette idée d’un mode « sceptique » est à court terme, insuffisamment réfléchie et difficilement applicable en pratique. L’expérience montre que les ressources actuellement disponibles pour valider les résultats générés par les modèles de langage (p. ex. la relecture d’un rapport de sortie) seront victimes de la rationalisation croissante. Le principal problème de la « surveillance humaine » est toutefois qu’il est extrêmement difficile, sur le plan cognitif, de détecter des erreurs ou des lacunes (omissions) parmi une multitude de résultats corrects (cf. Adler-Milstein). À cela s’ajoute le fait que la plupart des modèles de langage actuels n’explicitent pas la fiabilité de leurs prédictions. L’interprétabilité et la surveillance humaine pourraient toutefois être facilitées si les grands modèles de langage indiquaient également les plages d’incertitude ou s’abstenaient de produire des sorties lorsque leurs performances sont insuffisantes.

À l’avenir, des modèles de collaboration et d’interaction où les grands modèles de langage fonctionnent en tant que « membres d’équipe » avec les professionnels de la santé seront probablement plus efficaces, avec les limites propres à chaque membre de l’équipe, qu’il soit humain ou artificiel.