La protection des données sensibles des patient-e-s est l’un des principaux défis liés à l’introduction de l’IA générative dans le secteur de la santé, en particulier dans un pays comme la Suisse, réputé pour ses normes élevées en matière de protection des données. Malgré le potentiel de l’IA générative pour améliorer les soins de santé, les organisations sont confrontées à une tâche complexe : elles doivent encourager l’innovation sans compromettre la vie privée et la sécurité des patient-e-s. 

1. Fragmentation du système suisse de santé

La forte fragmentation du système suisse de santé constitue un défi majeur. Avec 26 cantons, de nombreux hôpitaux privés et publics et d’innombrables cabinets médicaux indépendants, il n’existe pas d’infrastructure de données uniforme. Si les données de facturation sont bien organisées grâce à la connexion avec les assureurs, les données cliniques standardisées et de haute qualité nécessaires aux applications d’IA font souvent défaut. Cette fragmentation complique non seulement l’utilisation des données, mais aussi la coopération entre les institutions.

Il existe également des obstacles culturels et structurels. De nombreuses institutions hésitent à partager leurs données, que ce soit pour des raisons légitimes de protection des données ou par crainte de perdre le contrôle ou des avantages stratégiques. Ces données sont souvent considérées comme une ressource précieuse, ce qui rend leur partage encore plus difficile. À cela s’ajoute la perception de nombreux acteurs selon laquelle les données des patient-e-s « leur appartiennent », ce qui est profondément ancré dans la culture d’une société individualiste comme la Suisse.

2. Le partage des données comme facteur clé

L’une des solutions possibles consiste à créer un programme national à caractère facultatif et offrant une valeur ajoutée évidente à toutes les parties prenantes. La motivation intrinsèque, c’est-à-dire la reconnaissance d’un avantage direct, est souvent plus efficace que les obligations légales. Un exemple serait la possibilité d’utiliser les données pour promouvoir les essais cliniques, simplifier les processus administratifs ou améliorer la qualité et les résultats des traitements.

Une réglementation purement légale imposant l’échange de données pourrait certes favoriser une certaine standardisation, mais elle comporte le risque d’une acceptation insuffisante et d’une résistance. Dans de tels cas, des problèmes tels que des données incomplètes ou de mauvaise qualité sont inévitables, étant donné que la motivation à participer activement fait défaut. Un programme coordonné au niveau national, offrant des incitations et des avantages clairs pour toutes les parties prenantes, des médecins et hôpitaux aux patient-e-s, pourrait faire la différence.

3. La clé : anonymisation et convivialité

L’anonymisation des données est un point essentiel. Seules des méthodes d’anonymisation et de pseudonymisation efficaces permettent de garantir à la fois la sécurité et l’exploitabilité des données des patient-e-s. Mais les solutions techniques ne suffisent pas à elles seules. De nombreuses initiatives numériques échouent en raison d’un manque de convivialité et de faisabilité opérationnelle.

Les futurs systèmes doivent donc être non seulement sûrs, mais aussi faciles à utiliser. Des exigences trop complexes ou une approche trop réglementée sont souvent contre-productives. Un développement pragmatique et itératif, qui commence par de petites étapes et tient compte des besoins de toutes les parties prenantes, pourrait remédier à cette situation.

4. La protection des données, partie intégrante du changement culturel

L’acceptation de l’IA générative dans le secteur de la santé nécessite en fin de compte un changement culturel. Alors que dans des pays comme le Royaume-Uni, les données de santé sont standardisées et rendues accessibles grâce à des programmes nationaux, le modèle suisse repose sur une approche plus individualiste. Cela constitue un obstacle supplémentaire, car il faudra convaincre et peut-être même inciter les patient-e-s et les fournisseurs de prestations à participer.

Dans le même temps, ces initiatives doivent faire l’objet d’une communication transparente afin d’instaurer la confiance. Les gens veulent comprendre pourquoi leurs données sont utilisées, quels avantages cela apporte à la société et comment leur vie privée est protégée. 

5. Conclusion : la protection des données, un exercice d’équilibre

Trouver le juste équilibre entre protection des données et promotion de l’innovation est l’un des principaux défis à relever pour introduire l’IA générative dans le système suisse de santé. Les progrès nécessitent une vision claire, une excellence technique, une sensibilité culturelle et l’implication de tous les acteurs concernés. En combinant anonymisation, convivialité, incitations et mesures de communication ciblées, la Suisse peut ouvrir la voie à une utilisation sûre et efficace de l’IA.

L’IA générative promet de rendre les soins de santé plus efficaces et plus précis. Mais un problème central demeure : les biais dans les modèles. Ceux-ci peuvent induire une représentation incorrecte de certains groupes de patient-e-s, ce qui peut avoir des conséquences graves, en particulier dans des domaines sensibles tels que le diagnostic et le traitement.

L’origine de ces biais réside souvent dans les données d’entraînement de l’IA. Si ces données ne reflètent pas toute la diversité des groupes de patient-e-s, des inégalités de traitement peuvent apparaître. Il s’agit à la fois de facteurs biologiques (tels que le sexe, l’âge, l’origine ethnique ou l’évolution de la maladie) et de différences systématiques liées au contexte socio-économique, aux barrières linguistiques ou aux déficits éducatifs. Un modèle qui ignore ces aspects risque de désavantager certains groupes de population ou de prendre de mauvaises décisions.

La Suisse est confrontée à un double défi. D’une part, la population est relativement réduite, d’autre part, elle présente une grande diversité culturelle et démographique. Cette hétérogénéité rend particulièrement difficile l’élaboration de modèles purement locaux qui tiennent compte de manière égale de tous les groupes de population. Une approche possible consisterait plutôt à utiliser des modèles d’IA globaux basés sur des ensembles de données multinationaux. Ces modèles pourraient ensuite être adaptés et validés de manière ciblée afin de tenir compte des besoins et des particularités spécifiques de la population suisse. Cela permettrait non seulement d’améliorer la qualité des modèles, mais aussi de garantir leur applicabilité et leur sécurité pour tous les groupes de patient-e-s.

Les biais peuvent également résulter de la manière dont les données sont collectées. Des facteurs techniques ou organisationnels peuvent par exemple entraîner une sous-représentation de certains groupes de patient-e-s dans les données. On peut citer comme exemple l’inégalité d’accès aux services de santé ou aux ressources technologiques, qui se traduit par une sous-représentation des données issues des groupes socialement et économiquement défavorisés. Cela montre à quel point il est important non seulement de garantir la diversité des données, mais aussi d’optimiser l’ensemble du processus de leur traitement.

Outre les défis techniques, il existe également des obstacles culturels et professionnels. Une résistance de la part du corps médical ou d’autres professionnels peut apparaître si les systèmes d’IA sont perçus comme une menace pour les méthodes de travail existantes. Dans le passé, de nouvelles technologies telles que la pathologie numérique ont échoué en raison de réserves et d’un manque d’implication des professionnels. Cette résistance peut être motivée en partie par des préoccupations légitimes telles que la protection des données ou des questions de qualité, mais aussi en partie par des intérêts professionnels propres.

Afin de minimiser efficacement les biais, il peut être judicieux de combiner des approches collaboratives et fondées sur les données. Le développement de modèles d’IA doit être étroitement coordonné avec les spécialistes locaux afin d’instaurer la confiance et de répondre à des besoins spécifiques. Parallèlement, des normes techniques telles qu’une base de données représentative, des processus d’entraînement et de validation diversifiés ainsi que des contrôles réguliers doivent garantir la robustesse et la fiabilité des modèles.

Un autre point décisif est la communication des avantages de tels systèmes. En permettant à toutes les parties prenantes, des patient-e-s aux fournisseurs de prestations, de comprendre comment l’IA générative peut conduire à de meilleurs résultats, il est possible de réduire les résistances potentielles et d’augmenter l’acceptation.

En résumé, on peut affirmer que la lutte contre les biais dans l’IA générative n’est pas une tâche purement technique. Afin de les minimiser, une approche holistique tenant compte des aspects culturels, techniques et organisationnels est nécessaire. C’est la seule façon de garantir que cette technologie soit non seulement efficace, mais aussi équitable et fiable, dans l’intérêt de tous les patient-e-s et de toutes les parties prenantes.

L’intégration de l’IA générative dans les systèmes de santé existants ouvre de nombreuses possibilités, allant de l’amélioration des processus administratifs à l’aide à la prise de décisions cliniques. Elle soulève toutefois également des questions complexes concernant la mise en œuvre technique, la sécurité des données et les exigences réglementaires. Dans un domaine aussi sensible que celui de la santé, il est particulièrement important de garantir la protection des données et la confiance tout en tirant le meilleur parti des avantages technologiques. 

1. Risques pour la protection des données lors de l’intégration de systèmes

L’un des principaux risques liés à l’intégration de l’IA générative dans les systèmes existants réside dans le traitement des données patient sensibles. Beaucoup de ces technologies sont conçues pour apprendre à partir de grandes quantités de données et les traiter en continu. Cela comporte un risque de violation de la protection des données ou de fuites involontaires.

Afin de minimiser ces risques, les entreprises misent sur des instances protégées et privées de systèmes d’IA qui fonctionnent indépendamment des plateformes publiques telles que ChatGPT. Ces systèmes fermés offrent une sécurité et un contrôle accrus, car ils peuvent être exploités de manière totalement isolée et selon les normes les plus strictes en matière de protection des données. En Suisse notamment, où la souveraineté des données est un sujet sensible, il serait inacceptable pour de nombreux patients et organisations que des données médicales soient traitées en dehors du pays, que ce soit aux États-Unis, en Chine ou ailleurs.

Les prestataires modernes de services sur le cloud tels qu’AWS, Microsoft et Google proposent désormais des solutions capables de répondre à ces exigences élevées. Il s’agit notamment d’environnements entièrement isolés, qui ne sont pas connectés à Internet et peuvent être exploités localement. Cela permet, par exemple, d’intégrer en toute sécurité de grands modèles de langage au sein d’un hôpital ou d’une clinique suisse sans que les données ne quittent le réseau. Il subsiste toutefois un risque résiduel qui doit être contrôlé par une planification minutieuse et des mesures de sécurité strictes.

2. Défis réglementaires

Le respect des dispositions légales telles que celles de la loi européenne sur l’intelligence artificielle constitue un autre obstacle⁹. Cette réglementation classe généralement les applications d’IA dans le domaine de la santé comme « à haut risque », ce qui entraîne une multitude d’exigences supplémentaires. Il s’agit notamment de garantir la transparence, de minimiser les biais et d’assurer la sécurité des données. Alors que les données agrégées peuvent entrer dans la catégorie des risques moyens, les données individuelles des patient-e-s sont presque toujours classées comme présentant un risque élevé. Pour les organisations, cela signifie qu’elles doivent prendre des mesures importantes pour se conformer aux exigences légales. Cela inclut des mécanismes robustes d’analyse des risques, de documentation et de traçabilité.

Une question particulièrement délicate est celle de la compatibilité de certains modèles d’IA avec les exigences réglementaires. Il pourrait être difficile de satisfaire pleinement aux exigences de transparence et de sécurité de l’UE, notamment dans le cas des modèles génératifs qui apprennent à partir de données d’entraînement volumineuses et fournissent souvent des résultats difficilement compréhensibles. Cela pourrait retarder l’intégration de ces technologies ou limiter leur utilisation à des domaines spécifiques et fortement réglementés.

3. Stratégies pour une intégration réussie

Malgré ces défis, le potentiel des systèmes d’IA générative est énorme, à condition qu’ils soient correctement intégrés dans les structures existantes. Une intégration réussie nécessite :

1. Une infrastructure sécurisée : la mise à disposition d’instances d’IA protégées et isolées, fonctionnant entièrement dans les limites d’un hôpital, d’une clinique ou même d’un pays.
2. Une sensibilité culturelle : en Suisse, la préservation de la souveraineté des données joue un rôle central. Les solutions doivent être conçues de manière à ce que les patient-e-s et les institutions puissent être sûrs que leurs données ne seront ni utilisées à mauvais escient ni transférées à l’étranger.
3. Une coordination réglementaire : les entreprises et les organisations doivent travailler en étroite collaboration avec les autorités de réglementation afin de garantir que les systèmes d’IA répondent à toutes les exigences légales. Cela nécessite souvent une coopération intensive entre les développeurs, les professionnels de la santé et les experts juridiques.
4. Transparence et communication : la communication des avantages et des mesures de sécurité est essentielle pour instaurer la confiance parmi les parties prenantes. Les patients et les professionnels doivent comprendre comment ces technologies fonctionnent et quelles mesures ont été prises pour garantir la protection des données et la sécurité.

Conclusion : l’intégration de l’IA générative dans les systèmes de santé existants représente un défi complexe qui tient compte à la fois des progrès technologiques, des exigences de sécurité et des contraintes réglementaires. Une planification minutieuse est nécessaire, en particulier en Suisse, où la protection des données revêt une grande importance et où les infrastructures sont très fragmentées. Les technologies modernes telles que les instances d’IA isolées ou les systèmes exploités localement peuvent permettre une intégration sécurisée. Néanmoins, le respect des normes internationales telles que la loi européenne sur l’intelligence artificielle est essentiel pour instaurer la confiance et surmonter les obstacles réglementaires.

En mettant l’accent sur des technologies sûres, des mises en œuvre pragmatiques et l’implication de toutes les parties prenantes, ces défis peuvent être relevés. Dans ces conditions, la Suisse peut profiter des avantages de l’IA générative sans compromettre les exigences élevées en matière de protection des données et de sécurité.