Santé2Fair: Vers une équité des décisions médicales générées par l’IA : mesurer et corriger les biais des jeux de données et des modèles en santé
Objectif(s) de la recherche et intérêt pour la santé publique
Finalité de l'étude
Objectifs poursuivis
Domaines médicaux investigués
Bénéfices attendus
Le projet a pour but de garantir l’équité des modèles face à la diversité des données, des contextes cliniques et des populations. Cette garantie sera fondée sur une méthodologie rigoureuse qui permettra d’évaluer et d’ajuster les modèles en développement comment en déploiement afin d’éviter toute discrimination systémique envers des groupes de patients. Les professionnels de santé auront l’assurance que les modèles respectent les critères de confiance intrinsèques aux attentes sociétales et réglementaires en matière de transparence et d’équité.
Concevoir une méthodologie détaillée – mais générique – d’analyse des biais statistiques et algorithmiques dans les systèmes d’Intelligence Artificielle du domaine de la santé, et de proposer une stratégie multiniveau d’atténuation des biais.
Le projet ayant pour but de créer une méthodologie générique d’évaluation de l’équité, une démarche itérative sera adoptée, construite autour de deux jeux de données : REALIGIST et PRECISION PREDICT.
REALIGIST découle d’une étude multicentrique rétrospective constituant une cohorte extensive de patients à tout stade de la maladie, avec une large variabilité des caractéristiques de chaque patient et de parcours de soins, conduisant à un nombre significatif de cas « rares ». La période de ciblage (et d’extraction) s’étend de 2010 à 2020, et représente environ 3000 patients. Aucun critère d’exclusion ne semble avoir été défini, ce qui mène à une grande variabilité des patients et des parcours de soins
.
PRECISION PREDICT provient lui d’une étude multicentrique rétrospective sur une cohorte de patients atteint de la même exacte forme de maladie, prenant le même traitement. La période de ciblage (et d’extraction) s’étend de 2010 à 2021, et représente 551 patients. Aucun autre critère d’inclusion (ou d’exclusion) ne semble avoir été défini. Cet échantillon plus restreint de patients devrait limiter la variabilité des parcours de soins.
Cette différence de population entre ces deux bases de données est structurante pour le projet Santé2Fair : les méthodes de détection de biais statistiques pourront être comparées entre une application sur un jeu de données à grande variabilité des points de données, et sur un autre à faible variabilité. Ils permettront également de valider les méthodes de détection et de réduction des biais sur un modèle gérant une seule modalité de données (tabulaire) et sur un modèle multimodal (tabulaire et images).
Deux modèles seront entraînés pour servir d’objets d’étude dans le cadre de notre projet. Chaque modèle sera entraîné pour une tâche spécifique liée à un des jeux de données utilisés ; plusieurs cas d’usage seront ainsi utilisés pour développer notre méthode de réduction des biais, apportant de la variété dans les modalités d’entrée, les architectures et les techniques d’entraînement utilisées.
Données utilisées
Catégories de données utilisées
Autre(s) catégorie(s) de donnée(s) utilisée(s)
N/A
Source de données utilisées
Appariement entre les sources de données mobilisées
Variables sensibles utilisées
Justification du recours à cette(ces) variable(s) sensible(s)
Seules l'année de naissance, et les mois/date de décès seront utilisées.
Les dates de soins, elles, nécessitent d'être complètes car les modèles entraînés comme "sujets de test" au cours de l'élaboration de notre méthodologie de recherche de biais seront chargés de faire des prédictions de temps de réponse à des traitement, ce qui peut se compter en jours.
La précision de la temporalité des soins est donc nécessaire à la qualité des modèles, et à la robustesse des méthodes de détection de biais qui seront développées.
Recours au numéro d'identification des professionnels de santé
Plateforme utilisée pour l'analyse des données
Acteurs finançant et participant à l'étude
Responsable(s) de traitement
Type de responsable de traitement 1
Responsable de traitement 1
Localisation du responsable de traitement 1
Représentant du responsable de traitement 1
Responsable(s) de mise en oeuvre non cités comme responsable de traitement
Responsable de mise en oeuvre non cité comme responsable de traitement 1
Calendrier du projet
Base légale pour accéder aux données
Encadrement réglementaire
Durée de conservation aux fins du projet (en années)
4
Existence d'une prise de décision automatisée
Fondement juridique
Article 6 du RGPD (Licéité du traitement)
Article 9 du RGPD (Exception permettant de traiter des données de santé)
Transfert de données personnelles vers un pays hors UE
Droits des personnes
Les données sont issues des bases REALIGIST et PRECISION PREDICT, toutes deux inscrites au catalogue du Système Nationale de Santé (SNDS).
Patients issus de la base PRECISION PREDICT :
L’étude Santé2Fair étant une étude rétrospective portant, en partie, sur des données historiques (période 2010-2021) issues de la base PRECISION PREDICT et appariée avec la base principale du SNDS dans le cadre de sa mise au catalogue, l’étude est tributaire de l’information initiale réalisée.
L’information au titre de la base PRECISION PREDICT a été réalisée individuellement sans portail de transparence. Cependant, elle ne comporte pas les dispositions relatives au traitement catalogue du SNDS et le Responsable de Données (i.e. l’Institut Curie) a indiqué ne pas être en capacité de réinformer les personnes concernées, les tables de correspondance avec l’identité des personnes ayant été supprimées et le projet étant terminé.
Le Responsable de Données (RD) n’est pas en mesure de venir en aide au Responsable de Traitement (RT) de l’étude afin de procéder à la ré-identification et à la ré-information, et les données ont fait l’objet de mesures de pseudonymisation, de sorte qu’il est impossible d’identifier directement les personnes. Le RT sollicite donc une dérogation au sens de l’article 14-5-b du RGPD au motif que l’information exigerait des efforts disproportionnés, dans la mesure où ni lui, ni le RD ne disposent des moyens nécessaires pour recontacter les patients.
Il apparaît néanmoins que le traitement, s’agissant d’une étude portant sur des données déjà collectées et pseudonymisées, n’emporte aucune incidence sur les soins du patient, de sorte que l’absence d’une information individuelle n’occasionnerait qu’un impact faible sur les droits et libertés des personnes concernées.
Par ailleurs, et compte tenu de la sévérité du diagnostic de Cancer Bronchique Non à Petites Cellules (CBNPC), il est probable qu’une partie significative de la population d’étude soit décédée.
Une information collective sera en outre assurée pour compenser l’absence d’information individuelle : l’information exhaustive sur le projet de recherche au titre de l’article 14 du RGPD (voir note d’information en annexe) sera publiée sur le site internet du RT et sur le site internet du Health Data Hub (HDH), ainsi qu’affichée dans les locaux des établissements du réseau Unicancer participant au projet (i.e. livrets d’accueil) au plus tard un mois avant le début de l’étude (i.e. le commencement des analyses sur les données dans le cadre de la finalité poursuivie de l’étude). Elle fera aussi l’objet d’une publication sur les réseaux sociaux du RT et des centres de référence. Cette information collective sera adaptée à chaque public concerné, notamment en ce qui concerne les mineurs et responsables légaux. Enfin l’étude sera également inscrite au sein du répertoire public du Health Data Hub.
Patients issus de la base REALIGIST :
Patients dont le suivi est toujours en cours :
Les patients seront informés individuellement du projet Santé2Fair conformément aux modalités d’information décrites au sein de la MR-004. En effet, au moment de la collecte de leurs données personnelles, les patients ont été informés individuellement par le biais d’une note d’information les renvoyant vers le portail de transparence de l’Institut Curie, que ces dernières seront réutilisées dans le cadre du catalogue du SNDS. Par ailleurs, la note d’information propre à la base catalogue REALIGIST renvoie à un dispositif spécifique d’information auquel les personnes concernées pourront se reporter préalablement à la mise en œuvre de chaque nouveau traitement de données. Il s’agit en l’occurrence du répertoire public de la Plateforme des Données de Santé (PDS), pré-filtré sur la base REALIGIST, accessible depuis ce lien. La note propre au projet Santé2Fair sera donc publiée sur ce portail, au moins un mois avant le début de l’étude.
Patients n’ayant pas reçu la note d’information individuelle amendée prévoyant la réutilisation de leurs données et le renvoi vers un portail de transparence :
Ces patients n’ont pas pu être informés de l’utilisation de leurs données au sein de la base de données REALIGIST, et une dérogation à l’obligation d’information individuelle est sollicitée pour eux au titre de l’article 14.5 b) du RGPD car elle nécessiterait des efforts disproportionnés. Et ce, conformément à l’argumentaire de dérogation transmis par l’Institut Curie à la CNIL dans le cadre de l’autorisation de la base REALIGIST, repris par la PDS dans le cadre du catalogue. En outre, et compte tenu de la sévérité du diagnostic de Tumeurs Stromales Gastro-Intestinales (GIST), il est probable qu’une partie significative de la population d’étude soit décédée. Une information collective, conforme à l’article 14 du RGPD, relative à l’alimentation du catalogue a été réalisée sur la page dédiée à la base REALIGIST au sein du répertoire des bases du site de la PDS.
Pour pallier l’absence d’information individuelle, Kereval publiera la note d’information relative à son projet sur son site internet, au moins un mois avant le début de l’étude.
La réutilisation des données des personnes concernées à des fins de recherche dans le domaine de la santé n’est pas soumise à leur consentement préalable mais à une simple information.
Les personnes incluses dans l’étude disposent d’un droit d’accès, de rectification, à la limitation d’opposition, à l’effacement concernant leurs données personnelles. Elles peuvent exercer ces droits auprès du DPO de Kereval : dpo@kereval.com, tel qu’indiqué au sein de la note d’information spécifique au projet.
Notre projet faisant appel à des données pour lesquelles le responsable de données conserve pendant 2 ans le lien entre l’identité de la personne et le pseudonyme envoyé au HDH, ce dernier pourra retrouver l’identifiant de la personne sur la plateforme technologique pendant cette période.
Le HDH peut recevoir l’identifiant relatif à la personne concernée grâce à la table de correspondance mais les conséquences de l’exercice des droits seront différentes selon que les données seront, ou non, déjà dans notre espace projet :
• Si le droit d’opposition est exercé avant que les données n’arrivent dans l’espace projet, le HDH pourra bloquer la transmission des données et nous le confirmer. La transmission sera bloquée quoiqu’il en soit pour les mises à jour.
• Si les droits d’accès, de rectification, de limitation, à l’effacement et d’opposition sont exercés après que les données sont arrivées dans notre espace projet, alors le HDH pourra confirmer que les données nous ont déjà été mises à notre disposition mais renverra vers nous pour donner suite à l’exercice des droits au sein de l’espace projet.
En ce qui concerne le droit de portabilité, le traitement des données n’étant fondé ni sur le consentement de la personne ni sur l’exécution d’un contrat, les conditions d’applicabilité du droit à la portabilité prévu par l’article 20 du RGPD ne sont pas réunies.