Scroll Top
IA BIG DATA ET ALGORITHME, LES ENJEUX
Partager l'article



*




L’IA, BIG DATA ET ALGORITHME : LES ENJEUX JURIDIQUES

Article rédigé le 13 mai 2019 par Laurent Houdart

Au-delà de la mise en conformité à une réglementation et de mettre en place des règles de sécurité indispensables, le RGPD a permis incontestablement une prise de conscience générale de l’importance que représente la « donnée » et pour reprendre le terme désormais commun de « la data », c’est-à-dire de la donnée informatisée.

Celle-ci est au cœur des progrès attendus du numérique et plus particulièrement de l’intelligence artificielle et de ses différentes expressions (traitement du langage naturel, vision, apprentissage automatique, systèmes multiagents, robotique). Ces transformations « s’annoncent aussi profondes que celles qui ont accompagné l’invention de l’écriture, puis de l’imprimerie. »1

C’est en effet l’accumulation des données massives (Big Data) combinée avec l’accélération de la vitesse de calcul des processeurs qui ouvrent les portes à cette révolution du numérique dont on ne peut encore imaginer toutes les répercussions en particulier sur la médecine.

Plusieurs exemples nous ont été donnés et dont la presse s’est fait l’écho, ici c’est la radiologie qui est concernée «  D’ici à 5 ans, le deep learning (apprentissage profond) fera mieux qu’un radiologue (…)  »et de façon plus sûre par une interprétation des images désormais exacte dans 95% des cas, là c’est l’ophtalmologie avec la détection des rétinopathies diabétiques grâce à un algorithme qui brasse plus de 128 000 images et permet un diagnostic correct3. Toutes les spécialités sont touchées.

Et les progrès les plus importants viendront peut-être projeter la médecine prédictive et la médecine préventive au premier plan :

« Sans aucune hypothèse biologique de départ, l’IA change de paradigme. Elle découvrira des associations particulières. Quand chez un patient donné, certaines variables seront réunies, elle pourra prédire que ce traitement sera le plus bénéfique4

 

Big data et algorithme sont les deux mamelles de cette révolution numérique.

 

Nous ne reviendrons pas sur les enjeux philosophiques, sociaux, économiques, politiques, stratégiques et de santé publique considérables et inviterons le lecteur à lire le rapport du CNOM de janvier 20185qui en brosse un tableau saisissant.

Pour ce qui est des aspects éthiques, nous ferons notre les propos de Dominique Pon et d’Annelore Coury :

«  Il n’est pas suffisant d’être conforme au référentiel RGPD pour pouvoir garantir une conformité éthique en matière d’algorithmes ou de pratiques e-santé. »6.

Nous ne pourrons faire l’impasse d’une réflexion et d’une stratégie éthique qui induiront des choix fondamentaux dont on peut souhaiter qu’ils inclineront pour une transparence des systèmes et une responsabilisation des acteurs. Les réflexions (in Ethique du numérique en santé7du Dr Jacques Lucas sont à ce titre remarquables et constituent une feuille de route exemplaire (nous reviendrons ultérieurement sur plusieurs de ses préconisations qu’il a également exprimées dans le rapport du CNOM de janvier 2018).

 

Attardons-nous plus précisément sur la facette juridique pour tenter d’en évaluer les conséquences :

 

             1/ Accès aux données

 

Il s’agit, nous l’avons compris, de la clé de tout système d’intelligence artificielle.

Cela suppose, d’une part, d’avoir accès à un très grand nombre de données de santé et, d’autre part, que ces données soient « propres » (vérifiées et formatées, c’est-à-dire conformes à l’objectif poursuivi).

 

La propriété des données de santé :

 

A qui appartient-elle ? Au patient ? Au professionnel ? À l’établissement ? Peut-on les vendre ? Qui peut y avoir accès ?

Nous reviendrons plus en détail dans un autre article sur cette question qui fait couler beaucoup d’encre et de faux espoirs.

 

Nous retiendrons cependant :

 

Le patient n’est pas propriétaire de ses données, il en est l’usufruitier. Il ne peut les aliéner (abusus). Nous disposons d’un cadre légal et réglementaire protecteur suffisant pour les données de santé avec son cortège de règles ; celles qui condamnent tout manquement au secret professionnel, celles qui protègent la vie privée, celles interdisant la cession et l’exploitation commerciale des données, celles de certification d’hébergeur de données de santé (HDS) ou de mise à disposition des données et bien évidemment, celles relatives à la protection des données (RGPD) mises en place il y a juste un an.

Ne soyons pas aveugle, les enjeux économiques sont tels que la tentation est forte de pouvoir briser la digue de protection. Certains prônent une « portabilité » des données qui autoriseraient des mises à disposition onéreuses, d’autres s’en rapportent aux règles allemandes de self data et ainsi de laisser à chacun une libre disposition de ces données.

Et puis, peut-on s’arcbouter sur nos interdits alors qu’aux Etats-Unis les GAFA les collecte sans sourciller ? Rappelons-nous ce que disait Talleyrand : Si tu ne peux surmonter un obstacle, il faut le contourner . L’IA est un phénomène mondial et la France ne pourra être ce petit village gaulois qui résiste au nom d’une éthique dépassée ailleurs.

 

Alors que faire ? La solution vient probablement du Health Data Hub qui consiste à « organiser » cet accès au big data en l’encadrant dans l’intérêt public.

Le Health Data Hub a été créé par Mme la Ministre de la santé suite aux préconisations de la mission de préfiguration qui a rendu ses conclusions en octobre 2018. M Aubert, directeur de la DREES a été chargé de mettre en place ce HUB dont la mission repose sur le principe suivant:

« les données de santé financées par la solidarité nationale constituent un patrimoine commun. Ces données doivent donc être mises pleinement au service du plus grand nombre dans le respect de l’éthique et des droits fondamentaux des citoyens. Il est primordial d’en garantir un accès aisé et unifié, transparent et sécurisé. »8

Le Health Data Hub  est constitué, pour plus d’efficacité, par la transformation de l’INDS et adoptera la forme juridique d’un GIP et pourra ainsi bénéficier de la participation de nombreux partenaires.

D’ores et déjà et conformément au plan d’action prévu, 10 projets ont été retenus et qui permettront très certainement de bâtir peu à peu une doctrine en matière d’accès aux données.

Nous pouvons saluer cette initiative gouvernementale qui apporte une réponse pratique et immédiatement mise en œuvre.

D’une façon générale, cela est vrai pour la feuille de route annoncée il y a peu pour « accélérer le virage numérique » et dont la lecture est impérative9.

         

La qualité des data 

 

La seconde condition concernant les data est celle de leur « propreté ». Expliquons-nous : « la plupart des données ne sont pas recueillies dans l’objectif que se fixe le concepteur du logiciel »10.

Certes nous disposons d’une base de données très importante ; Le SNIIRAM (système national d’information inter régimes) mais qui a été créé avant tout pour l’analyse économique. Elle n’est donc pas adaptée pour une exploitation médicale.

Il sera donc nécessaire d’adapter les items de saisie de données médicales pour permettre, après anonymisation et pour des projets encadrés et contrôlés, leur exploitation. C’est également l’une des missions du Health Data Hub : Veiller à la qualité des données et à leur utilisation dans le respect des règles de protection.

Les établissements de santé et les professionnels ont également un rôle premier à jouer ; Ils ne sont pas uniquement bénéficiaires ou utilisateurs d’IA, ils doivent également en être acteurs.

Cela nous conduit à nous intéresser à la mise en place des systèmes d’IA :

 

             2/ Mise en place de systèmes d’IA 

 

Osons le dire, l’IA va changer également profondément notre approche juridique de la relation de soins. Jusqu’à présent, peu ou prou la fiction d’un contrat entre le médecin et le patient (puis l’équipe ou encore l’établissement) constituait le fondement juridique de la relation de soins.

Mais demain (ou plutôt dès ce soir !) comment allons-nous déterminer les responsabilités des uns et des autres ?

S’inspirer de la télémédecine ? Non : nous renverrons nos lecteurs aux articles que nous avons pu écrire à ce sujet. La télémédecine ne se substitue pas au praticien.

  • soit elle permet au professionnel de santé d’exercer à distance (téléradiologie, téléconsultation, téléchirurgie, etc) mais il reste seul responsable ;
  • soit elle permet au professionnel de disposer d’un appui extérieur (téléexpertise).

Avec l’IA, nous serons confrontés à un problème différent. Reprenons notre exemple du diagnostic de la rétinopathie diabétique : qui est responsable en cas d’erreur ? Certes, les statistiques issues de l’expérimentation permettent de démontrer que celles-ci sont infimes.

Néanmoins, lorsque l’erreur survient, ces statistiques ne sont plus pertinentes pour le patient.

Alors qui est responsable ?

  • l’ophtalmologue qui a utilisé ce système est-il responsable car il est le lien avec le patient ? Il rétorquera qu’il n’a fait que suivre les indications du système, qu’il a rentré toutes les données et suivi scrupuleusement les protocoles ;
  • la société qui a commercialisé le logiciel car elle a certifié les qualités du système ? Ne dira t’elle pas que le praticien doit cependant faire les vérifications nécessaires ;
  • les concepteurs qui ont établi l’algorithme ?
  • le Health Data Hub pour ne pas avoir transmis de données suffisamment propres ?

 

Disons-le : il nous faut appréhender la question différemment. L’INSERM, dans son analyse de l’IA nous en donne une clé de compréhension :

« Les approches numériques s’apparentent en revanche à une boîte noire, incapable de justifier ses décisions : nul ne sait ce que fait l’algorithme. Comment, dès lors, endosser la responsabilité de la décision médicale ? Les données d’apprentissage sont en particulier biaisées par les préjugés de l’époque et ceux des concepteurs. L’algorithme tend donc à reproduire, voire renforcer, ces mêmes préjugés. »

Cela nous conduit directement sur la problématique de l’homologation des systèmes d’IA. Jusqu’à présent, nous sommes dans une phase d’expérimentation. Elle prend fin et nous voyons fleurir un grand nombre de start up qui propose chacune des projets plus alléchants les uns que les autres.

 

Cela nous conduit à deux observations :

 

  • Une certification nécessaire de l’IA

Si nous reprenons la métaphore de la boîte noire, plusieurs conséquences juridiques nous apparaissent :

  • compte tenu de ses conséquences, les professionnels ne devraient pouvoir utiliser ces dispositifs sans une certification d’efficience du système d’IA. Les dispositifs médicaux bénéficient d’un marquage CE, nous serions en droit d’espérer un marquage IA. Ce marquage serait attribué aux systèmes présentant les garanties nécessaires, c’est à dire que la boîte noire ait pu être expertisée, analysées, son efficacité vérifiée, etc. Eu égard à sa forte implication dans le numérique, la France ne pourrait-elle promouvoir et anticiper sur ce marquage IA ?
  • l’efficience du système IA ne suffit pas : encore faut-il que les professionnels aient la capacité et la maturité pour les mettre en œuvre. Notre expérience auprès de tous les professionnels (établissements publics de santé, professionnels libéraux, etc) l’a démontré : l’IA n’est pas un produit miracle que l’on achète en supermarché pour l’utiliser à son retour. Elle nécessite des aptitudes, des formations, des équipements, etc.

Là aussi, il serait nécessaire d’envisager des process, a minima de labélisation, à l’instar de ce que la FHF projette à travers son projet « FHF SYNTEC NUMERIQUE ».

L’objectif est que chaque professionnel de santé qui utilise un système d’IA dispose des garanties nécessaires.

 

  • L’importance d’un encadrement des Living lab et autres e-lab

 

Que viennent faire ici les living lab ?

Pour ceux qui ne connaissent pas encore cet anglicisme, il s’agit d’un dispositif récent qui regroupe des usagers, des entreprises, des acteurs publics, des financeurs pour aider, concevoir et évaluer des projets innovants.

L’objectif est de permettre l’émergence de nouvelles technologies, en particulier de projets d’IA, en permettant à tous ceux qui sont concernés d’y participer.

De plus en plus de professionnels de santé mais surtout d’établissements de santé sont invités à y participer.

Il n’est pas de notre propos de remettre en question cette initiative intéressante. En revanche, plusieurs cas récents nous ont montré que les acteurs de santé doivent être vigilants et veiller à ce que les conditions et modalités de leur participation soient clairement précisées, notamment en terme de propriété des progiciels, de participation à d’éventuelles charges d’exploitation, etc.

Cela est d’autant plus vrai que des établissements publics de santé y participent. Il est donc nécessaire de porter une attention spécifique aux règles de la commande publique, aux dispositions statutaires concernant les praticiens hospitaliers, à la gouvernance, etc…

En revanche, ces dispositifs, une fois juridiquement sécurisés peuvent constituer de formidables plateformes d’innovation et d’émergence de dispositifs d’IA.

 

En conclusions, ni IA Bashing, ni IA washing , simplement être conscient de la révolution que le numérique va entraîner qui peut devenir, comme l’écrit le Dr Jacques Lucas :

« un levier majeur d’organisation sanitaire sur les territoires et vecteurs d’équité dans l’accès aux informations en santé, à la prévention, à l’orientation dans le système de soins, à la prise en charge par télémédecine, aux développements des applis et objets connectés en santé ayant fait la preuve du service rendu à la personne … »11

 


 

 

1-Rapport du CNOM : Médecins et patients dans le monde des data, des algorithmes et de l’intelligence artificielle. Janvier 2018https://www.conseil-national.medecin.fr/node/2563

2-Le Monde 8 mai 2019 «  L’intelligence artificielle va bouleverser les professions de santé » Florence Rosier

3-Rapport du CNOM : Médecins et patients dans le monde des data, des algorithmes et de l’intelligence artificielle. Janvier 2018https://www.conseil-national.medecin.fr/node/2563

4-Nikos Paragio, PDG de la société Therapanacea et professeur de Mathématique à Centralesupélec cité in Le Monde. Op cité

5-Op cité

6-Rapport Final «  Accélérer le virage numérique » D PON et A COURY

7-Ethique du numérique en santé , 20 juin 2018, Dr Jacques Lucas, Vice-président du CNOM, délégué général au numérique)

9-Dossier d’information ; « feuille de route accélérer le virage numérique » 25 avril 2018.https://solidarites-sante.gouv.fr/actualites/presse/dossiers-de-presse/article/feuille-de-route-accelerer-le-virage-numerique

10-Intelligence artificielle et santé. Rapport d’information INSERM 06.07.2018https://www.inserm.fr/information-en-sante/dossiers-information/intelligence-artificielle-et-sante

11-Op cité in « Ethique du Numérique en santé »

Fondateur du Cabinet Houdart et Associés en 1987, Laurent Houdart assiste, conseille et représente nombres d’opérateurs publics comme privés au sein du monde sanitaire et médico-social depuis plus de 20 ans.

Après avoir contribué à l’émergence d’un « Droit de la coopération sanitaire et médico-sociale », il consacre aujourd’hui une part importante de son activité à l’accompagnement des établissements de santé publics comme privés dans la restructuration de l’offre de soins (fusions, transferts partiel d’activité, coopération publique & privé, …). 

Expert juridique reconnu dans le secteur sanitaire comme médico-social, il est régulièrement saisi pour des missions spécifiques sur des projets et ou opérations complexes (Ministère de la santé, Ministère des affaires étrangères, Fédération hospitalière de France, AP-HM,…).

Il ne délaisse pas pour autant son activité plaidante et représente les établissements publics de santé à l’occasion d’affaires pénales à résonance nationale.

Souhaitant apporter son expérience au monde associatif et plus particulièrement aux personnes en situation de fragilité, il est depuis 2015 Président de la Fédération des luttes contre la maltraitance qui regroupe 1200 bénévoles et 55 centres et reçoit plus de 33000 appels par an.