Construire une intelligence artificielle de confiance en santé

2025-06-13T06:47:59Z

Dans la pratique médicale, le processus de développement des outils informatiques et en particulier de l'intelligence artificielle (IA) est une étape importante pour son acceptabilité et son appropriation par les utilisateurs finaux. L'objectif de notre étude était de proposer un processus de conception des outils de l'IA en santé pour une intégration facilité.

Nous nous appuyons sur les résultats d'une enquête réalisée entre Octobre 2018 et Mai 2019 auprès des médecins de la ville du Havre sur leurs usages des objets connectés et des applications de santé, leur avis sur l'utilisation de l'IA en pratique médicale et leurs perceptions sur les risques liés au big data et à l'IA sur la pratique médicale pour la proposition de notre processus de conception des outils. Les théories utilisées étaient le design thinking qui est une méthode d'intelligence collective qui place l'humain, ses usages et ses besoins au centre de la réflexion et la confiance avec une classification en trois typologie.

Dans un premier temps, nous avons identifié les différents acteurs de la conception des outils d'IA et les différentes relation existant entre ces acteurs avec une description des rôles et des interactions entre eux. En plus des trois étapes du design thinking (inspiration, idéation et implémentation), nous avons ajouté une étape d'évaluation comportant : l'essai clinique, l'évaluation technique, l'évaluation médico-économique et la certification. Le processus d'évaluation était poursuivi après la mise sur le marché dans le cadre de vigilance sanitaire.

Dans la pratique médicale, le processus de développement des outils informatiques et en particulier de l'intelligence artificielle (IA) est une étape importante pour son acceptabilité et son appropriation par les utilisateurs finaux. Ce processus est d'autant plus complexe, car elle fait intervenir de nouveaux acteurs qui se doivent de respecter les normes et les contraintes liées à la pratique médicale (Yaméogo, 2020). Le respect des normes et des règles métiers permet de créer un climat de confiance, indispensable à la pratique médicale. Ce climat de confiance permettrait une intégration des outils technologiques dans la pratique médicale ; intégration qui reste faible pour le moment (Colloc & Vinot, 2000 ; Darmoni et al., 2014). En effet, l'intégration est difficile, car le développement des solutions d'IA ne prend pas en compte la complexité du fonctionnement des systèmes de santé (Davenport & Ronanki, 2018 ; Smith et al., 2021). En plus, des études ont montré une préférence des patients pour les médecins par rapport à l'IA dans l'interprétation des résultats et la prise en charge ; la confiance à l'IA augmentait en cas de supervision par le médecin (Lennartz et al., 2021 ; Lim et al., 2022). Le design thinking est une méthode systémique de résolution de problème qui permet d'écouter la voix de l'utilisateur final et d'améliorer la collaboration et la coopération entre les différents acteurs. Il est utilisé dans divers contextes et conditions de soins de santé, bien que son application varie (Altman et al., 2018). L'objectif de notre étude était de proposer un processus de conception des outils de l'IA en santé pour une intégration facilitée.

1. Méthodes et cadre théorique

1.1. Enquête de terrain

Nous nous appuyons sur les résultats d'une enquête réalisée entre octobre 2018 et mai 2019 auprès des médecins de la ville du Havre sur leurs usages des objets connectés et des applications de santé, leur avis sur l'utilisation de l'IA en pratique médicale et leurs perceptions sur les risques liés au big data sur la pratique médicale pour la proposition de notre processus de conception des outils (Yaméogo, 2020 ; Yaméogo & Colloc, 2021). Les médecins en activité régulière de soins et consentant à participer aux entretiens ont été inclus dans notre étude. La base de sondage des médecins était l'annuaire des médecins de l'assurance maladie à la date du 15 mai 2018. Ensuite, un tri a été fait pour classer les médecins en fonction de leur cabinet d'appartenance ramenant ainsi à 89 cabinets de santé. Au cours de cette enquête, nous avons utilisé la Technology acceptance Model de Davis pour expliquer l'adoption ou non d'une technologie en nous fondant sur l'utilité perçue, la facilité d'utilisation perçue de la technologie et des attitudes qui vont induire une intention d'utilisation de cette dernière (Venkatesh & Davis, 2000) et la boite à outils de Nicole et louis Lery qui aide le professionnel de santé dans sa réflexion éthique face à la complexité des questions dans la prise de décisions dans les soins (Lery & Colloc, 2008).

1.2. Design thinking

Le design thinking est une méthode d'intelligence collective qui place l'humain, ses usages et ses besoins au centre de la réflexion (Brown, 2008). Il permet de définir une expérience idéale, à la croisée du désirable, pour ceux à qui s'adresse l'innovation, ce qui est techniquement réalisable et ce qui est viable économiquement par le porteur de projet. Le design thinking permet ainsi de résoudre des problèmes, fondés sur les besoins des utilisateurs et en développant des solutions pour y répondre. Ainsi, la technologie est vue comme un outil qui répond à des besoins et non comme une fin en soi (Mathieu & Hillen, 2016). Il permet d'apporter à une problématique donnée, une solution novatrice qui répond à ces trois principes fondamentaux : la désirabilité (l'expression des besoins et l'utilité centrées sur l'utilisateur), la faisabilité technique et organisationnelle et la viabilité (performance, efficience, efficacité et surtout viabilité économique.) (Brown, 2008 ; Mathieu & Hillen, 2016).

une logique de co-création où les différents acteurs travaillent ensemble ;
une réflexion intellectuelle alternant des phases d'intuition et d'analyse, dans une logique d'ouverture/fermeture ;
une importance majeure accordée à l'étude de terrain (observation ethnographique) qui offre une compréhension pleine et entière des expériences ;

Le design thinking peut être décrit en trois principales étapes que sont (Brown, 2008 ; Mathieu & Hillen, 2016) :

L'inspiration consiste à l'identification du problème à résoudre sur le terrain avec les utilisateurs concernés. Elle nécessite une combinaison d'empathie, de méthode, d'intuition et la construction d'une expertise spécifique pour chaque type d'utilisateur et de contexte ;
L'idéation consiste à générer, développer et tester des idées pouvant être des solutions au problème identifié. Elle inclut le prototypage des solutions et les tests utilisateurs en temps réel. Elle permet un gain de temps et l'éviction des dépenses inutiles qui ne répondent pas aux besoins des utilisateurs ;
L'implémentation est la transition vers l'exploitation. Elle regroupe les activités qui permettent de passer de l'étape de conception à la réalité.

Les trois étapes sont réalisées de manière itérative et centrée sur l'utilisateur et son expérience.

Dans le cadre du développement des outils de l'IA dans le domaine de la santé, nous avons ajouté une quatrième étape qui l'évaluation. Cette évaluation se fait à trois niveaux :

L'essai clinique a pour but de prouver les apports en termes de bénéfice et d'innocuité de l'utilisation de l'outil dans la pratique médicale ;
L'évaluation technique a pour objectif de vérifier la qualité, l'efficacité et la sécurité d'emploi des outils. Elle permet d'évaluer les performances pour chaque indication revendiquée par le concepteur. Cette évaluation permet la certification et l'obtention des autorisations de mise sur le marché ;
L'évaluation médico-économique évalue le service attendu/rendu de l'outil en fonction de l'intérêt de l'outil, son effet thérapeutique, diagnostique ou de compensation d'une situation de handicap.

1.3. Confiance

La pratique de la médecine ne peut se concevoir sans la confiance ; la confiance au médecin dans la relation de soins, entre des individus et des organismes et entre des organismes. La confiance est un des principes fondamentaux du serment d'Hippocrate :

« [...] Je ne tromperai jamais leur confiance et n'exploiterai pas le pouvoir hérité des circonstances pour forcer les consciences » et est renforcée par le secret médical en ces termes « [...] Admis(e) dans l'intimité des personnes, je tairai les secrets qui me seront confiés. Reçu(e) à l'intérieur des maisons, je respecterai les secrets des foyers et ma conduite ne servira pas à corrompre les mœurs » Serment d'Hippocrate.

« La confiance est une attitude, un état psychologique survenant dans un contexte d'incertitude, de risque et de vulnérabilité » (Bizouarn, 2008). Les définitions sont multiples, dépendent des points de vue adoptés par les auteurs et le contexte dans lequel est insérée la notion de confiance (Orléan, 2000 ; Simon, 2007).

La confiance est définie par Zucker (Zucker, 1986) comme « une série d'attentes sociales partagées par les personnes impliquées dans un échange économique. L'hypothèse sous-jacente à cette définition est la présence de valeurs communes pour les parties engagées dans l'échange ». Il décrit, ainsi, trois typologies de la confiance :

La confiance interpersonnelle se fonde sur une relation entre les individus, perçue comme une importante ressource sociale qui facilite la coopération (Mayer et al., 1995) ; elle comporte une composante intentionnelle qui est la bienfaisance et le respect de l'autonomie dans le cadre de la relation médecin-patient et une composante de compétence correspondant à la non-malfaisance (Yaméogo, 2020).
La confiance institutionnelle ou systémique, accordée à une autorité supérieure dans une société avec pour rôle la protection des individus contre les aléas moraux, c'est une confiance partagée entre les personnes, grâce à des construits normatifs et sociaux (Mangematin et al., 1999). Elle a recours à des lois, des cadres règlementaires et des contrats avec l'acceptation des règles qui en découlent.
La confiance interorganisation est la confiance accordée par les membres d'une organisation à l'organisation associée ; elle implique au moins deux organismes, en tant que personnes morales (Zaheer et al., 1998). Cette confiance permet de construire un réseau relationnel efficace sur le long terme.

La multidisciplinarité du développement de l'IA impose une collaboration franche entre les acteurs avec un niveau de confiance élevé et une personne garant des contrats (l'État à travers les organismes de régulation peut jouer le rôle de tiers de confiance). La construction d'une relation de confiance entre tous les acteurs de la santé peut devenir un moyen de gouvernance (Dyer, 1997) et palier là où la loi ne peut être appliquée.

2. Perceptions des médecins sur l'utilisation de l'IA en pratique médicale

L'enquête auprès des médecins havrais a mis en évidence que le processus de développement des outils d'IA est une étape importante pour son acceptabilité et son appropriation. En effet, les médecins utilisaient peu les outils d'IA et les objets connectés. Les principaux motifs de non-utilisation des outils étaient (Yaméogo & Colloc, 2021) :

L'absence de certification (marquage CE) ;
Le manque d'évaluation lors des essais cliniques et de validation scientifique ;
Le non-respect des processus métiers ;
Le manque d'utilité des outils pour les médecins ;
L'absence d'une politique de gestion des données (confidentialité, disponibilité, traçabilité, intégrité)

Ainsi, le processus de développement des outils d'IA doit respecter les procédures métiers, l'utilisation des connaissances médicales fondées sur les preuves, le respect des droits des patients et de l'éthique médicale. Le respect des normes métiers permet de créer un climat de confiance, très important dans le cadre de la pratique médicale.

3. Écosystème de la santé

Le processus d'informatisation des soins a considérablement modifié l'écosystème de la santé avec l'apparition de nouveaux acteurs. Nous avons dans le cadre de notre travail, nous avons identifié quatre groupes d'acteurs que sont :

Les équipes de soins constituées de tous les acteurs contribuant à la prise en charge médicale du patient. Ils sont membres d'un ordre professionnel et/ou d'une société savante. Les ordres professionnels définissent le code de déontologie pour la pratique du métier et veillent à son respect et les sociétés savantes mettent à la disposition les recommandations de bonnes pratiques cliniques fondées sur les preuves ;
Le patient en contact avec l'équipe de soins. Il fait partie d'un environnement avec une famille, des amis, avec ses besoins et ses désirs. Il est parfois membre d'une association de patients, dont la participation dans les soins en tant qu'expert permet le partage de son expérience et de son vécu (Hervé et al., 2017) ;
Les concepteurs/promoteurs, nouveaux acteurs intervenant de manière directe ou indirecte dans le soin à travers les outils développés ; ils sont parfois membres d'associations professionnelles. On peut citer entre autres les informaticiens, les data scientist, les ingénieurs biomédicaux et les bailleurs de fonds ;
L'État qui offre les opportunités de pratiques aux acteurs du système de santé et régule la relation qui existe entre les différents acteurs à travers les lois et veille au respect des contrats. Dans le cadre de l'IA, plusieurs organismes de l'État sont impliqués et doivent travailler en étroite collaboration. Il s'agit des agences de protections des données, de certification des logiciels, de sécurité des médicaments et d'évaluation économiques des outils.

La figure 1 montre l'écosystème de la santé et la figure 2 les interactions entre les différents acteurs (voir annexe).

4. Étapes de la conception selon le design thinking modifié

4.1. Inspiration

L'identification du problème ou l'expression des besoins peut être proposée par tous les acteurs du système. Le problème doit être confronté au terrain pour s'enquérir de l'expérience des concernés. Cette confrontation permet de cadrer le problème en prenant en compte les besoins de tous les acteurs et contextualiser les solutions.

4.2. Idéation

Une fois le problème décrit, tous les acteurs proposent des solutions et toutes les solutions sont acceptées et discutées une par une afin de retenir la meilleure solution adaptée au besoin sans prépondérance de voix d'un acteur sur un autre acteur. Dans le cadre de l'IA, les acteurs décident de commun en accord avec les connaissances actuelles, des données à utiliser pour l'atteinte des objectifs de départ. Cette étape permet de respecter les finalités des données, mais surtout permet aux informaticiens et data scientist d'expliquer le principe de fonctionnement et le mode d'obtention des résultats surtout pour le médecin et le patient dans le cadre du respect des droits à l'information. Ce processus de co-construction permet de créer un climat de confiance et aux concepteurs d'avoir accès à un terrain d'expérimentation dans la vie réelle avec une garantie de sécurité pour tous les acteurs. La solution retenue est prototypée dans un premier temps et présentée aux acteurs pour un test, au cours duquel ils font des commentaires et des critiques pour améliorer les différentes solutions.

4.3. Implémentation

Les acteurs procèdent au choix de la solution finale en prenant compte des commentaires et critiques. Ce choix se fait en prenant en compte la désirabilité (la solution permet de résoudre le problème identifié), la faisabilité technique et organisationnelle et la viabilité économique (le coût de production, d'exploitation, de maintenance et de mise à jour). La mise à jour est très importante dans le domaine de la santé.

L'intérêt de cette méthode est que tous les acteurs participent à tous les processus et connaissent les forces et les faiblesses des outils d'avance. Les différents acteurs peuvent discuter les compromis qu'ils peuvent accepter.

Mais dans le domaine de la santé, il est important de faire l'évaluation des outils entrant dans le cadre de la pratique médicale et avant son utilisation à large échelle pour s'assurer de son innocuité, sa fiabilité, sa qualité et l'apport d'un bénéfice pour le patient, la société et le médecin.

4.4. Évaluation

L'évaluation des outils va se faire en plusieurs étapes :

L'essai clinique dont l'objectif est de confirmer ou infirmer les apports en termes de bénéfice, et d'innocuité de l'utilisation de l'outil dans la pratique médicale. Les résultats de l'essai clinique servent également pour la validation technique, l'évaluation médico-économique et les certifications. Chaque pays a ses propres procédures pour l'initiation des essais cliniques.
L'évaluation technique a pour objectif la validation de la qualité, de l'efficacité et de la sécurité d'emploi des outils. Cette évaluation se fait avant la mise sur le marché et tout au long de la vie de l'outil et permet d'anticiper la commercialisation.
L'évaluation médico-économique évalue le service attendu/rendu de l'outil d'IA en fonction de l'intérêt de l'outil (son effet thérapeutique, diagnostique ou de compensation d'une situation de handicap, ainsi que des effets indésirables ou des risques liés à son utilisation) et de l'intérêt de santé publique (son impact sur la santé de la population, sa capacité à répondre à un besoin non couvert eu égard à la gravité de la pathologie ou de la situation de handicap, son impact sur le système de soins et sur les politiques ou les programmes de santé publique).

L'évaluation est une étape importante, car elle permet l'accès au marché mondial, un gain de temps pour les concepteurs et une assurance pour les utilisateurs. La figure 3 montre les différentes étapes du design thinking modifié.

La participation de tous les acteurs aux différents processus de conception des outils dans un climat de confiance permet une meilleure acceptabilité et appropriation des outils. Elle permet également une responsabilisation et une valorisation des acteurs. Le design thinking s'apparente à une recherche-action et permet une économie importante dans la conception, un taux d'échec réduit et une accélération de mise sur le marché. Mais sa mise en place n'est pas toujours chose facile, car il faut un bon management et un leadership pour le travail d'équipe de personnes de compétences et de disciplines différentes. Pour les concepteurs, ils peuvent avoir le sentiment de prise de risque important et de changement continuel au cours de la mise en œuvre du projet. Une relation de confiance s'avère la clé de cette méthode qui est bénéfique à la fin du processus.

Notre modèle de développement permet de répondre aux besoins et aux attentes de tous les acteurs sans pour autant mettre en péril les droits et les principes fondamentaux d'un acteur. À travers ce modèle, nous proposons un processus de mise en place de l'IA dans le domaine de la santé respectueuse de :

L'éthique médicale ;
Des normes et des compétences techniques ;
La prise en compte du cycle de vie des systèmes d'aide à la décision médicale et leur méthodologie de conception ;
La protection des données personnelles et surtout des données de santé ;
La prise en compte du contexte, de l'environnement et de la singularité des utilisateurs ;

Les innovations dans le domaine de la santé ne doivent pas être considérées de nos jours comme « la solution ». Elles ne doivent pas non plus être vues que sous le prisme des risques qu'elles induisent. La santé a beaucoup profité du développement de la technologie pour améliorer la prise en charge des maladies et la technologie a toujours été adaptée et intégrée dans la pratique médicale ; c'est ce qui doit se faire dans le cadre de l'IA et mettre le patient au centre des usages. L'intégration et l'utilisation des solutions d'intelligence artificielle doivent prendre en compte la complexité du système de santé et le respect des processus et des recommandations en matière de prise en charge. En plus, la confiance à ce stade du développement des solutions de l'IA est la clé pour la réussite de cette mission et ; le design thinking est une alternative pour satisfaire toutes les parties prenantes.

Figure 1 : Écosystème de la santé

Figure 2 : Interactions entre les différents acteurs lors de la conception

Figure 3 : Différentes étapes de la conception des outils à partir du design thinking modifié

Bibliographie

Altman, M., Huang, T. T. K., & Breland, J. Y. (2018). Design Thinking in Health Care. Preventing Chronic Disease, 15, E117. https://doi.org/10.5888/pcd15.180128

Bizouarn, P. (2008). Le médecin, le malade et la confiance. Éthique & Santé, 5(3), 165‑172. https://doi.org/10.1016/j.etiqe.2008.04.001

Brown, T. (2008, juin 1). Design Thinking. Harvard Business Review, June 2008, 10.

Colloc, J., & Vinot, D. (2000). A Decision Support System to encode the diseases in hospital. Proceedings of ICSSHC 2000, 55‑61.

Darmoni, S., Griffon, N., & Massari, P. (2014). Les systèmes d'aide à la décision médicale. Annales des Mines - Realites industrielles, Novembre 2014(4), 47‑50.

Davenport, T. H., & Ronanki, R. (2018). Artificial intelligence for the real world : Don't start with moon shots. Havard Business Review, 96(1), 108‑116.

Dyer, J. H. (1997). Effective interim collaboration : How firms minimize transaction costs and maximise transaction value. Strategic Management Journal, 18(7), 535‑556. https://doi.org/10.1002/(SICI)1097-0266(199708)18:7<535::AID-SMJ885>3.0.CO ;2-Z

Hervé, C., Stanton-Jean, M., & Mamzer, M.-F. (Éds.). (2017). La participation des patients. Dalloz.

Lennartz, S., Dratsch, T., Zopfs, D., Persigehl, T., Maintz, D., Große Hokamp, N., & Pinto Dos Santos, D. (2021). Use and Control of Artificial Intelligence in Patients Across the Medical Workflow : Single-Center Questionnaire Study of Patient Perspectives. Journal of Medical Internet Research, 23(2), e24221. https://doi.org/10.2196/24221

Lery, L., & Colloc, J. (2008). Prise de décision dans l'éthique au quotidien—Comment décider dans le soin ? Santé Décision Management, 11(1‑2), 243‑254.

Lim, K., Neal-Smith, G., Mitchell, C., Xerri, J., & Chuanromanee, P. (2022). Perceptions of the use of artificial intelligence in the diagnosis of skin cancer : An outpatient survey. Clinical and Experimental Dermatology, 47(3), 542‑546. https://doi.org/10.1111/ced.14969

Mangematin, V., Thuderoz, C., Mangematin, V., & Harrisson, D. (1999). La confiance : Un mode de coordination dont l'utilisation dépend de ses conditions de production. In La confiance : Approche économique et sociologiques (p. 322). Gaëtan Morin.

Mathieu, F., & Hillen, V. (2016). Le design thinking par la pratique : De la rencontre avec l'utilisateur à la commercialisation d'un produit innovant pour les seniors. Eyrolles.

Mayer, R. C., Davis, J. H., & Schoorman, F. D. (1995). An Integrative Model of Organizational Trust. The Academy of Management Review, 20(3), 709‑734. https://doi.org/10.2307/258792

Orléan, A. (2000). La théorie économique de la confiance et ses limites. In R. Lauferd & M. Orillard, La confiance en question (Cahiers de Socio-Économie, intitulés, p. 59‑77). L'Harmattan.

Simon, É. (2007). La confiance dans tous ses états. Revue française de gestion, 175, 83‑94. https://doi.org/10.3166/rfg.175.83-94

Smith, M., Sattler, A., Hong, G., & Lin, S. (2021). From Code to Bedside : Implementing Artificial Intelligence Using Quality Improvement Methods. Journal of General Internal Medicine, 36(4), 1061‑1066. https://doi.org/10.1007/s11606-020-06394-w

Venkatesh, V., & Davis, F. D. (2000). A Theoretical Extension of the Technology Acceptance Model : Four Longitudinal Field Studies. Management Science, 46(2), 186‑204. https://doi.org/10.1287/mnsc.46.2.186.11926

Yaméogo, R. A. (2020). Risques et perspectives du big data et de l'intelligence artificielle : Approche éthique et épistémologique [Thèse de doctorat, Normandie]. http://www.theses.fr/2020NORMLH10

Yaméogo, R. A., & Colloc, J. (2021). Utilisation du big data et de l'intelligence artificielle en pratique médicale : Enquête auprès des médecins Havrais. Intelligence artificielle et innovation sociale, 38‑39.

Zaheer, A., McEvily, B., & Perrone, V. (1998). Does Trust Matter ? Exploring the Effects of Interorganizational and Interpersonal Trust on Performance. Organization Science, 9(2), 141‑159. https://doi.org/10.1287/orsc.9.2.141

Zucker, L. G. (1986). Production of trust : Institutional sources of economic structure, 1840–1920. Research in Organizational Behavior, 8, 53‑111.

Innovation Pédagogique et transition