Contact
Nous contacter

Intelligence artificielle & Santé

Sécuriser la conformité et la gouvernance des projets d’IA en santé

AUMANS AVOCATS accompagne les acteurs de la santé dans la conception, la gouvernance, le développement et le déploiement de leurs projets intégrant des systèmes d’intelligence artificielle.

Le développement de l’intelligence artificielle dans le domaine de la santé ouvre de nouvelles perspectives en matière de recherche, de diagnostic, d’aide à la décision, de personnalisation des soins ou encore de valorisation des données de santé.

Ces projets s’inscrivent toutefois dans un environnement réglementaire particulièrement exigeant et en constante évolution, marqué par l’application combinée du Règlement européen sur l’intelligence artificielle (AI Act), du RGPD et selon les projets, des réglementations européennes relatives aux dispositifs médicaux, aux données de santé, à la recherche clinique ou encore à la cybersécurité.

Dans ce contexte, la conformité constitue un enjeu de gouvernance et un élément de la stratégie de développement des solutions d’IA en santé.

AUMANS AVOCATS intervient ainsi aux côtés des directions juridiques, DPO, directions générales, équipes médicales, scientifiques, Data et IT afin d’identifier les réglementations applicables, d’anticiper leurs évolutions et d’intégrer les contraintes réglementaires aux choix structurants du projet.

Conformité
Accompagnement des CRO
Entrepôts de données de santé
Formation

Une expertise dédiée à l’IA dans le domaine de la santé

Le cabinet intervient auprès des industriels de santé, laboratoires pharmaceutiques, fabricants de dispositifs médicaux, acteurs de la MedTech et de la HealthTech, établissements et professionnels de santé, organismes de recherche et éditeurs de solutions numériques.

Le cabinet accompagne notamment les projets portant sur :

  • les systèmes d’aide au diagnostic et à la décision clinique ;
  • les dispositifs médicaux et logiciels intégrant des fonctionnalités d’intelligence artificielle ;
  • les outils d’aide au soin et au suivi des patients ;
  • l’intelligence artificielle générative appliquée à la santé ;
  • les systèmes d’IA utilisés dans le cadre de recherches et d’essais cliniques ;
  • l’utilisation de données de santé pour le développement, l’entraînement, la validation ou l’évaluation de systèmes d’IA ;
  • les projets d’IA développés à partir d’entrepôts de données de santé ;
  • les outils d’analyse et de valorisation des données de santé.

Articuler IA Act et RGPD

Lorsqu’un système d’IA implique le traitement de données personnelles et en particulier, de données de santé, sa conformité ne peut être appréciée au regard du seul IA Act. Le cabinet accompagne ses clients afin d’assurer une mise en conformité coordonnée avec l’IA Act et le RGPD.

  • qualification du système d’IA et identification des acteurs concernés : fournisseur, déployeur, importateur ou distributeur ;
  • classification du système d’IA et identification des obligations applicables ;
  • qualification des traitements de données, de leurs finalités et de leurs bases juridiques ;
  • encadrement de l’utilisation des données de santé pour l’entraînement, la validation et le test ;
  • privacy by design et protection des données par défaut ;
  • réalisation et articulation des analyses de risques et des AIPD/PIA ;
  • information et transparence à l’égard des patients, professionnels de santé et autres personnes concernées ;
  • encadrement de la décision automatisée et de la supervision humaine ;
  • sécurité, anonymisation et pseudonymisation ;
  • documentation de la conformité et gouvernance des données et des systèmes d’IA.

Systèmes d’IA à haut risque et dispositifs médicaux

Le cabinet intervient sur les projets nécessitant la prise en compte des dispositions de l’IA Act et des dispositions applicables en matière de dispositifs médicaux. En effet, lorsqu’un système d’IA constitue ou est intégré à un dispositif médical, son développement et sa mise sur le marché peuvent nécessiter d’articuler les exigences de l’IA Act avec celles du règlement (UE) 2017/745 relatif aux dispositifs médicaux (MDR) ou du règlement (UE) 2017/746 relatif aux dispositifs médicaux de diagnostic in vitro (IVDR).

A ce titre, le cabinet intervient sur les aspects suivants :

  • qualification et classification du système d’IA ;
  • identification des systèmes d’IA à haut risque ;
  • gestion et documentation des risques ;
  • gouvernance et qualité des données ;
  • documentation, traçabilité et transparence ;
  • supervision humaine ;
  • exactitude, robustesse et cybersécurité ;
  • articulation des systèmes de gestion des risques et de la qualité ;
  • suivi du système, gestion des incidents et répartition des responsabilités.

L’objectif est de construire une trajectoire de conformité cohérente et d’éviter la juxtaposition de démarches distinctes pour chacune des réglementations applicables.

Une question ? Contactez-nous !

Données de santé, entraînement des modèles et recherche

AUMANS AVOCATS a développé une expertise dédiée en matière de données personnelles et de données. A ce titre, les données constituent un élément essentiel du développement et de l’évaluation des systèmes d’intelligence artificielle en santé. Leur utilisation, leur partage ou leur inter-opérabilité peuvent soulever des questions spécifiques lorsque les jeux de données comprennent des données de santé ou sont issus de recherches, d’essais cliniques, d’entrepôts de données de santé ou de bases constituées par des établissements de santé.

Le cabinet accompagner ses clients au titre des prestations suivantes :

  • déterminer les conditions de réutilisation des données ;
  • encadrer juridiquement la constitution des jeux de données d’entraînement, de validation et de test ;
  • analyser les conditions d’accès et de partage des données ;
  • encadrer l’anonymisation et la pseudonymization, conformément aux lignes directrices de l’EDPB et des autorités de protection des données européennes ;
  • sécuriser les transferts et mises à disposition de données ;
  • rédiger et négocier les accords d’accès, de partage et de transfert de données ;
  • analyser l’utilisation de données issues de recherches ou d’entrepôts de données de santé ;
  • anticiper l’articulation avec le future Espace européen des données de santé (EHDS).

Gouvernance, stratégie réglementaire et anticipation

La réglementation applicable à l’intelligence artificielle en santé évolue rapidement. Au-delà de l’IA Act et du RGPD, les acteurs doivent tenir compte des réglementations sectorielles existantes, de leur évolution et des initiatives législatives européennes susceptibles d’affecter leurs projets.

AUMANS AVOCATS accompagne ses clients dans la définition d’une stratégie juridique et réglementaire adaptée au cycle de vie de leurs projets en matière d’intelligence artificielle, afin de procéder aux prestations suivantes :

  • cartographier les réglementations applicables et leurs interactions ;
  • qualifier les systèmes d’IA, les acteurs et leurs responsabilités ;
  • identifier en amont les contraintes réglementaires ayant un impact sur les choix technologiques ou organisationnels ;
  • intégrer les exigences de conformité dès la conception des projets ;
  • structurer la gouvernance interne et définir les responsabilités entre équipes juridiques, Data, IT, médicales et métiers ;
  • mettre en place des comités, politiques et procédures de gouvernance de l’IA ;
  • organiser la documentation et la traçabilité des décisions ;
  • anticiper les évolutions réglementaires européennes et analyser leur impact sur les projets en cours ou à venir ;
  • accompagner les arbitrages entre innovation, accès aux données, maîtrise des risques et conformité ;
  • sécuriser les relations avec les partenaires, fournisseurs, établissements de santé et autres acteurs des projets ;
  • accompagner les projets dans la durée, de leur conception à leur déploiement et leur suivi.

Une approche intégrée et stratégique de la conformité

AUMANS AVOCATS privilégie une approche transversale et prospective de la conformité des systèmes d’IA en santé. Notre accompagnement vise à déterminer les exigences aujourd’hui applicables, mais aussi à anticiper les évolutions du cadre européen et à intégrer ces paramètres dans les décisions stratégiques prises tout au long du projet.

Cette approche permet aux acteurs de la santé de disposer d’une lecture globale de leur environnement réglementaire, de sécuriser leurs choix et d’accompagner le développement de leurs projets dans la durée.

Une question ? Contactez-nous !

Pour suivre toute l’actualité du Cabinet en droit des Sciences de la Vie…

Notre blog Sciences de la Vie