Le groupe de travail Santé, numérique et intelligence artificielle invite des chercheurs et chercheuses de différentes disciplines afin de débattre de questions liées à la santé (somatique et psychique) et au numérique. Retrouvez sur cette page les séances de l’année en cours. Merci de vous inscrire. Les séances passées sont consultables sur la page du groupe de travail.
24.3.2023 – 10h à 12h
Jean-Marc Deltorn (CEIPI, Université de Strasbourg)
« Transparence(s) et opacité(s) » – entre dévoilement et secret, l’IA et le traitement algorithmique des données
Les données, notamment de santé, sont au cœur d’une nouvelle économie de la prédiction et du contrôle. Ces données représentent la matière première à partir de laquelle des algorithmes catégorisent les individus, en suivent les comportements et permettent de produire de nouvelles formes de services. L’exploitation à grande échelle de ces données – personnelles et non personnelles – au moyen des dernières générations d’applications d’apprentissage automatique et d’« intelligence artificielle » pose aujourd’hui des défis sans précédent au croisement d’enjeux de gouvernance, éthiques, psychologiques, économiques, juridiques et techniques.
Face à ces développements et confrontée à l’opacité (technique et commerciale) des processus de traitement de l’information, la notion de transparence s’est imposée comme l’une des valeurs fondamentales promues par l’UE pour le développement, le déploiement et l’utilisation des systèmes prédictifs basés sur les données. Déjà un élément incontournable du Règlement général sur la protection des données et du Livre blanc sur l’IA publié par la Commission européenne en février 2020, la première proposition législative de l’UE en la matière – la proposition de règlement sur l’intelligence artificielle de la Commission européenne (l’AI Act) – poursuit cette tendance et donne à la transparence une place centrale en incluant plusieurs articles qui lui sont explicitement consacrés. De fait, au-delà même de ces textes et des contraintes légales qu’ils imposent, la transparence semble s’être érigée au niveau d’une exigence morale.
Or, la transparence des systèmes de traitement de données connaît des limites qu’il nous faudra souligner. Limites intrinsèques, liées à l’interprétation et à la variété des sens associés à cette notion fort large, d’une part. Limites pratiques, également, dans sa mise en œuvre réglementaire et technique. Ainsi, après avoir évoqué la place d’un principe de transparence dans le paysage juridique européen, nous présenterons quelques-unes des contraintes s’opposant à son application à l’encadrement du traitement des données et à l’accès à la logique sous-jacente aux modèles prédictifs.
Jean-Marc Deltorn est maître de conférences au Centre d’études internationales de la propriété intellectuelle (CEIPI) à l’Université de Strasbourg et membre de l’Impact of Technology Expert Group à l’European Observatory de l’EUIPO. Au CEIPI, Jean-Marc Deltorn dirige le Diplôme AI&IP et étudie l’articulation entre les technologies numériques émergentes et la dynamique des normes en Europe. Il est titulaire d’un doctorat en astrophysique de l’Université de Paris et d’un doctorat en droit de l’Université de Strasbourg.
20.1.2023 – 10h à 12h
Geneviève Vidal (Université Sorbonne Paris Nord) et Marie-Pia d’Ortho (Université Paris Cité, AP-HP)
ROCS-SHS. Premiers usages d’un dispositif objets connectés en santé
30 entretiens avec des patients, menés durant six mois, ont permis de saisir des premiers usages de l’application MyAir, ou les raisons de son non-usage. Nombreux ne sont pas parvenus à télécharger l’application, d’autres l’ont oubliée. Des témoignages permettent de saisir un certain manque d’informations et d’explications, pour faciliter son accès et ses usages. Pour les usagers étant parvenu à la télécharger, la prise en main et l’adaptation à la machine PPC sont prioritaires. Néanmoins, la consultation de l’application est rapide et quotidienne. Ensuite soit les usagers regardent moins régulièrement l’application, soit explorent davantage l’application. Ils l’apprécient pour relever les données relatives à la machine PPC, puis pour d’autres fonctionnalités, telles les scores, la position du masque, les vidéos notamment. Ces usages font sens et stimulent une posture réflexive à l’égard de leur traitement, mais aussi de l’application elle-même. La culture numérique des répondants autorise à cerner le fait qu’ils accueillent les objets connectés en santé (machine PPC, application, données) dans un non-dit. Cette étude de premiers usages ne permet pas de cerner l’appropriation par les usagers-patients des dispositifs relevant des objets connectés en santé, encore globalement au stade de prémices, voire pour certains en cours.
Geneviève Vidal, enseignante-chercheuse habilitée à diriger des recherches, mène des recherches sur l’informatisation sociale, sur les usages des technologies numériques, en particulier dans le secteur muséal, plus récemment celui de la santé.
Marie-Pia d’Ortho est médecin, professeure à l’Université Paris Cité, directrice scientifique du Digital Medical Hub, cheffe du service de physiologie explorations fonctionnelles de l’hôpital Bichat-Claude‐Bernard, AP‐HP.