Pour un design de technologies d’IA en santé ancré dans des pratiques situées et des usages signifiants

(…) les questionnements sur les aspects sociaux de l’IA sont trop souvent réduits à des considérations éthiques. De telle sorte que la formule « éthique de l’IA » a tendance à devenir un mot-valise, le pendant « social » en quelque sorte de ce que « l’IA » représente aujourd’hui dans le domaine technologique, où il est de plus en plus souvent utilisé comme métonymie (Velkowska & Relieu, 2021)
 
L’IA en santé fait couler beaucoup d’encre depuis ces dernières années, l’accent étant souvent mis sur les potentialités dans le diagnostic, la prise de décision clinique et les récents développements alimentent aussi une vision d'une médecine personnalisée et prédictive (Lee & Yoon, 2021; Davenport & Kalakota, 2019). Or, parallèlement au développement de technologies de santé utilisant l’IA, de nombreux travaux interrogent les conséquences sociales de la diffusion des algorithmes d’apprentissage dans le domaine de la santé. Ces travaux tentent d’identifier les lacunes et les limites de l’IA, mais aussi ses implications sur les patients et les professionnels de la santé (Caruana et al., 2015; Sabelli et al., 2011; Broadbent et al., 2016). Tout en ayant le potentiel d’offrir des services plus personnalisés et centrés sur le patient, ces technologies transforment indéniablement la manière dont les systèmes de santé interagissent avec les patients et leur utilisation dans le contexte réel des soins pose des défis à la fois sociaux, communicationnels et émotionnels que nous ne pouvons pas négliger. En fait, l'intégration des technologies de santé utilisant l'IA dans les pratiques cliniques et dans la vie quotidienne des patients reste un problème majeur (Barrett et al., 2019; Neuhauser et al., 2013). Nombreux sont ceux qui parlent de « AI chiasm » (Aristidou et al., 2022) ou de « vérité dérangeante sur l'IA dans les soins de santé » (Panch et al., 2019) parce que l'usage de l’IA en contexte réel de soins interroge la relation que des professionnels de la santé et des patients entretiennent avec ces technologies et avec les données générées par ces technologies. Par conséquent, il s’agit de penser la conception de technologies d’IA situées dans des pratiques de soins afin de reconnaître le « travail » que les professionnels de la santé et les patients entreprennent autour et avec les données de santé produites via ces algorithmes. Par exemple, à mesure que davantage de données numériques sur la santé sont saisies et agrégées par les patients en dehors de l’hôpital, le travail de production de données et de création de sens se déplace vers les patients ou vers d'autres intermédiaires (Oudshoorn, 2008, 2011). Ainsi, les données générées par ces algorithmes ne doivent pas être vues comme des données immuables, mais plutôt pensées comme imbriquées dans un réseau de relations fait d’individus aux statuts différents, de matérialité et se manifestant à travers des pratiques situées (Grosjean et al., 2019). Ces technologies d’IA s’inscrivent donc dans un enchevêtrement d’acteurs, d’objets, de discours et de pratiques situés dans des environnements et des temporalités différents (à l’hôpital, à la maison). Il est donc nécessaire pour le développement d’une « éthique de l’usage » de l’IA en santé de voir ces technologies comme « constituées par » des pratiques situées et des usages incarnés dans des réalités sociales multiples et complexes.
 
L’objectif de cette communication sera donc de discuter de l’importance de proposer une approche de codesign (ou design participatif) ancrée dans des pratiques de soins afin de mieux comprendre les « intégrations astucieuses » des technologies d’IA dans des activités cliniques ou d’auto-soins. Les approches de conception actuelles sont principalement basées sur un paradigme techno-déterministe, même s'il existe des approches d'IA centrées sur l'utilisateur dont le but est d’inclure « l'humain dans la boucle » (Li & Etchemendy, 2018; Baumer, 2017; Xu, 2019). Or, les enjeux communicationnels, sociaux et émotionnels soulevés par l'usage de l'IA en contexte de soins n'ont pas été clairement pris en compte et certains problèmes de conception apparaissent avec les méthodes utilisées actuellement (Choudhury et al., 2020; Yang et al., 2020). Par exemple, des cadres et des lignes directrices pour une conception de technologies d'IA centrée sur l'humain ont été proposés dans la littérature afin de concevoir des technologies plus acceptables et éthiquement responsables. Or, les chercheurs identifiés au domaine de l’interaction homme-machine (IHM) ou en conception centrée sur l'utilisateur soulignent les limites des approches existantes qui se concentrent sur le niveau de l'interface ou utilisent des méthodes de prototypage limitées qui ne conviennent pas pour étudier l'expérience de l'utilisateur telle qu'elle est incarnée et située dans des contextes spécifiques (Yang et al., 2020; Auernhammer, 2020). La conception de technologies d'IA en santé met ces questions au premier plan, ce qui nous pousse à repenser nos façons de concevoir ces technologies pour en améliorer l'intégration dans des pratiques sociale et les rendre signifiantes. En effet, ces technologies intègrent des algorithmes de plus en plus complexes issus de l'apprentissage machine, du traitement du langage naturel (NLP) et de domaines connexes qui vont « faire une différence » dans les mondes sociaux des futurs utilisateurs.
 
Pour aborder ces enjeux de conception de technologies de eSanté utilisant l’IA, nous prendrons appui sur deux projets de recherche en santé. Une recherche menée avec des soignants impliqués dans la conception d’une technologie intégrant un algorithme d’apprentissage dans le but de réduire les surcharges cognitive et informationnelle à l’hôpital (Grosjean et al., 2019). Et, une autre recherche impliquant des personnes vivant avec la maladie de Parkinson pour lesquelles une application de eSanté (intégrant un système de recommandation) est en phase de développement afin de leur permettre de prendre en charge leur maladie à la maison et de bénéficier de conseils de santé personnalisés (Grosjean et al., 2022). Ces deux cas soulèvent des enjeux quant à l’intégration de ces technologies dans des pratiques signifiantes et viennent interroger les démarches de conception afin qu’il y ait une meilleure intégration des usages en contextes réels.

Modalités
Chaque séance du programme dure 1h30. Elle commence par un exposé de 30 à 45 min, suivi d’une discussion avec les participants.
Ce programme constitue un espace de travail et d’échanges pluri et interdisciplinaires. L’objectif est de présenter une éthique en cours d’élaboration, basée sur les pratiques, plutôt que d’exposer des résultats.
Entrée libre et gratuite sur inscription par envoi d’un courriel à ambre.davatuniv-grenoble-alpes.fr (ambre[dot]davat[at]univ-grenoble-alpes[dot]fr).