Le 19 août dernier, Trishan Panch, Heather Mattie et Leo Anthony Celi, chercheurs à Harvard et au MIT, ont publié un article qui a jeté un pavé dans la marre : « The inconvenient truth about AI in healthcare » (La vérité qui dérange sur l’IA en santé). Les auteurs y démontraient qu’en dépit des avancées considérables de l’intelligence artificielle (IA) en médecine, rares sont les applications d’apprentissage automatique qui ont franchi les portes de nos organisations de santé.
En tant que chercheuse postdoctorale au Hub santé : politique, organisations et droit (Université de Montréal et Centre de recherche du CHUM), j’étudie le développement et le déploiement des systèmes d’IA dans les centres hospitaliers universitaires du Québec. Comme d’autres chercheurs, j’ai pu noter un écart, aujourd’hui dénommé « the AI Chasm », entre les promesses suscitées par l’IA en recherche et ses réalisations concrètes dans les milieux de soins. Comment expliquer un tel écart ? Quelles solutions pourrait-on apporter pour le combler ?
Les promesses de l’apprentissage profond
Dans le domaine médical, les développements des techniques d’IA les plus avancées, comme l’apprentissage profond, sont impressionnants et prometteurs à plusieurs égards.
Avec l’explosion de la quantité et de la diversité des données de santé et la progression des capacités de calculs et de stockage, de nouveaux systèmes automatisés ont été développés pour soutenir les professionnels de la santé dans la prise de décision clinique (prévention, détection, diagnostic et traitement).
Le logiciel d’apprentissage profond CAD4TB est utilisé dans plusieurs hôpitaux dans le monde (Mozambique, Bangladesh, Nigéria, parmi beaucoup d’autres pays) pour aider les professionnels non experts à détecter les signes de la tuberculose dans les radiographies pulmonaires.
Au Québec, des systèmes automatisés ont été introduits dans les centres hospitaliers pour optimiser le dépistage de la rétinopathie diabétique. C’est le cas de CARA, développé par l’entreprise DIAGNOS, qui a reçu le soutien du gouvernement québécois pour son implantation au Centre hospitalier de l’Université de Montréal (CHUM).
Comme l’illustrent ces exemples, le déploiement de l’IA en santé repose en partie sur des partenariats public-privé. Toutefois, plusieurs systèmes d’IA sont aussi développés par des chercheurs universitaires en vue de contribuer à l’amélioration de la qualité, de l’efficacité et de la sécurité des soins. Les projets du centre de recherche du CHUM en sont de bons exemples.
Des barrières techniques et humaines
En dépit de ces avancées, plusieurs facteurs bien identifiés par la recherche viennent limiter l’implantation des systèmes d’IA dans les milieux de soins et leur utilisation par les professionnels et les patients.
Ces facteurs sont d’ordre technique tout d’abord. Malgré le développement des infrastructures numériques (dossiers cliniques informatisés, entrepôts de données), il manque encore des données diversifiées et de qualité pour entraîner et valider les algorithmes d’IA en milieux de soins réels. De surcroît, les organisations de santé font souvent face à des problèmes de compatibilité entre les systèmes d’IA et leurs systèmes d’information actuels, ce qui tend à limiter l’implantation.
Les facteurs limitants sont aussi de nature individuelle. Certains cliniciens peinent à percevoir les bénéfices des systèmes d’IA, souvent du fait d’un manque de compréhension et de formation. Quant aux patients, ils craignent parfois que les systèmes automatisés ne prennent pas en compte leurs caractéristiques individuelles, ce qui tend à limiter l’utilisation.
Read more: Comment l’IA va transformer le système de santé
Au niveau organisationnel, l’absence de méthodes et de modèles pour évaluer la performance et la sécurité des systèmes d’IA tout au long de leur cycle de vie demeure un enjeu central de l’implantation de l’IA dans les établissements de soins.
À cela s’ajoute le fait que les réglementations encadrant les systèmes d’IA sont encore en pleine construction et ne répondent donc qu’imparfaitement aux préoccupations éthiques et juridiques soulevées par les citoyens et les experts (manque de transparence, risque de biais, entre autres).
Trois solutions pour accélérer l’implantation
Plusieurs États travaillent ardemment à l’adaptation de leurs législations pour accélérer l’implantation des systèmes d’IA tout en garantissant la protection des droits des citoyens (tel que le droit de s’opposer à une décision algorithmique). Au Canada, le Commissariat à la protection de la vie privée vient de lancer une consultation nationale pour réviser les réglementations actuelles à l’aune des nouveaux enjeux posés par l’IA en santé et dans d’autres secteurs.
En attendant que ces travaux législatifs portent leurs fruits, les organisations de santé peuvent mettre en œuvre un ensemble de bonnes pratiques afin de mieux s’outiller face au développement et au déploiement des systèmes d’IA. Voici quelques exemples tirés de notre travail au CHUM :
1. Se doter d’une stratégie IA cohérente
Développer une stratégie qui explicite ce que l’organisation attend des développements de l’IA : quels problèmes pourraient être résolus par les systèmes automatisés ?
2. Intégrer l’ensemble des parties prenantes
Mettre en œuvre des espaces (de type living lab et hackathon) où les professionnels de santé, gestionnaires, patients, aidants peuvent co-développer et/ou tester des systèmes d’IA qui répondent aux besoins qu’ils ont identifiés.
3. Développer des mécanismes d’audit algorithmique
Développer des procédures et des processus qui permettent d’imposer des contraintes aux développeurs d’IA (par exemple, la transparence des données et des techniques utilisées pour entraîner les algorithmes) avant l’implantation d’un système, et de garantir un suivi continu de la performance et de la sécurité pendant l’implantation.
De tels développements ne pourront voir le jour sans le soutien et l’expertise des pouvoirs publics qui souhaitent aujourd’hui favoriser la transformation numérique des établissements de santé. Cela passe non seulement par des investissements financiers, mais aussi par des ressources humaines et logistiques pour appuyer la formation des professionnels et des patients à ces nouvelles pratiques.
Au Québec, parallèlement à la mise en œuvre du nouveau Dossier de santé numérique, il est essentiel de soutenir les organisations dans la transformation de leurs processus de gestion et de contrôle de la qualité, sécurité et performance. Sans cela, toute innovation technologique, même la plus prometteuse comme l’IA, ne pourra tenir ses promesses.