Bien que les spectres des avancées technologiques en IA soient larges, la santé est l’un des domaines où les développements y seront les plus effervescents dans les années à venir.
Les possibilités y sont nombreuses, voire enivrantes ! Difficile de ne pas se laisser séduire par la quête du précieux anneau d’or qui nous promet des soins et services de santé hautement efficaces, adaptés à nos besoins individuels et davantage accessibles.
Mais au-delà de la séduction, il y a de nombreuses questions soulevées tant par les professionnels de la santé que par les chercheurs et par le public en général.
Des algorithmes ultra performants
Les possibilités de l’IA en santé se manifestent à l’échelle clinique et organisationnelle.
Elles laissent entrevoir, d’une part, des gains dans l’offre de soins destinée aux patients (qualité, pertinence, personnalisation et quantité) et, d’autre part, dans l’amélioration de l’organisation des systèmes de santé (efficience et réactivité).
Parmi ces possibilités se trouvent des capacités amplifiées de diagnostic médical. Des algorithmes analyseront instantanément plusieurs milliers de données comparables au cas d'un patient en particulier. Dans certaines situations, ils seront extrêmement performants, dépassant les capacités humaines d’analyse de données.
Une autre possibilité qu’offre l’IA est d'utiliser des algorithmes pour optimiser la gestion des établissements de santé. Ils pourront évaluer avec précision les priorités d’attribution de ressources, qu’il s’agisse de lits, personnel soignant, traitements, tests, et octrois de congés de soins. Ils le feront en se fondant sur une analyse complète en temps réel des besoins de l’ensemble des patients.
Les établissements deviendront éventuellement des environnements hautement virtuels dotés de « tours de contrôle » informatiques sophistiquées leur permettant de suivre en permanence l’état de santé des patients (à l’intérieur et à l’extérieur de l’établissement).
Enfin, un troisième exemple est celui qui permet à des robots de contribuer à l’offre de soins et d’accompagnement à domicile en proposant des rappels quant à la médication à prendre et en captant les signes vitaux des patients - tout en les transmettant au personnel soignant. Ces robots peuvent au surplus servir à des fins de «compagnonnage» par une présence constante auprès des personnes à domicile et en disposant de capacités conversationnelles évoluées.
Mais la quête du précieux anneau d’or n’est pas sans embûches ni périls éventuels… La récente Déclaration de Montréal sur l’IA responsable vient d’ailleurs nous les rappeler. À la hauteur des promesses de l’IA se trouvent des enjeux éthiques et juridiques fondamentaux qu’il convient de prendre en compte afin d’assurer que cette technologie soit, au-delà d’une prouesse technique, porteuse de progrès social accessible à tous.
Pour illustrer certains de ces enjeux, partons des trois exemples de développement d’IA en santé mentionnés précédemment.
Quelle responsabilité pour le diagnostic médical ?
Le cas des outils de diagnostic médicaux basés sur l’IA soulève des questions quant à la responsabilité des professionnels de la santé qui les utiliseront ou qui choisiront de les ignorer.
Comment les médecins réagiront-ils face à un outil diagnostic qui surpasse parfois leur propre aptitude d’analyse? Prendront-ils, ou devraient-ils prendre, le «risque» de s’en écarter ? Et quelle sera la réaction des tribunaux lorsqu'un médecin choisira d'ignorer l’algorithme avec des conséquences néfastes pour le patient ou inversement, si la machine intelligente se trompe?
La question se complexifie d’autant plus que l’IA, dans sa forme la plus sophistiquée (pensons à l’apprentissage profond), s’appuie sur un processus décisionnel opaque pour l’humain; il devient souvent impossible de comprendre ce processus et de l’expliquer. Le risque est, à terme, que le médecin devienne en quelque sorte l’outil de l’IA, et non l’inverse, et ce, en raison du « poids normatif » (Ian Kerr) qu’exerceront des outils d’une telle performance sur le jugement humain - surtout dans un domaine qui valorise grandement les données probantes.
Des pistes de solutions sont à explorer pour pallier ces préoccupations.
Un certain degré de transparence devrait être exigé afin que le professionnel de la santé puisse avoir une idée des variables prises en compte par les algorithmes, et ce, même si l’analyse comme telle lui restera obscure.
Cette transparence facilitera aussi le repérage, du moins en partie, d’éventuels biais discriminatoires découlant des données utilisées pour former l’algorithme (un autre enjeu au cœur des préoccupations de l’IA). Plus largement, il faudra offrir des formations adaptées pour permettre aux professionnels de la santé de les utiliser adéquatement.
Enfin, il sera opportun d’obtenir la rétroaction des professionnels de la santé et des patients afin d'évaluer et d'améliorer de tels outils. Lors de cette évaluation, tant les résultats primaires (durée des hospitalisations, fréquence des réadmissions hospitalières, etc.) que secondaires (satisfaction des patients, confiance, anxiété, satisfaction dans le travail des professionnels, etc.) produits par les algorithmes devraient être considérés.
Mieux gérer les ressources en santé tout en protégeant la vie privée
L’utilisation de l’IA au sein des établissements de santé soulève, entre autres, des enjeux de vie privée et de gouvernance.
La matière première des outils d’analyse prédictive créés par ces algorithmes sera les données, dont plusieurs proviendront des patients. Et plus les données sur les patients seront riches, plus l’efficacité de l’outil sera augmentée.
En étant capable d’intégrer toutes les données de santé des individus (tests, examens, résultats, etc.), incluant celles de leur téléphone intelligent (activités physiques, consommation d’alcool, variation du poids), ces algorithmes pourront évaluer efficacement les services offerts.
Le risque en est toutefois que des données extrêmement sensibles transitent dans les organisations de soins. Des atteintes à la vie privée peuvent survenir, soit par nécessité de performance ou par utilisation malveillante ou négligente. Les scandales Facebook et Cambridge Analytica nous forcent à enlever nos lunettes roses, si nous en avions, quant à la possibilité de tels évènements.
Une des solutions sera d’envisager de nouvelles modalités de consentement à l’utilisation des données des patients adaptées à ces environnements virtuels de soins. Par ailleurs, pour consolider la confiance du public, il faudra maximiser la protection (sécurité et confidentialité) des systèmes informatiques des établissements. Il faut ajouter des modalités de reddition de compte pour ceux qui les utilisent ainsi que des sanctions et compensations adéquates en cas d’incidents.
Divers enjeux de gouvernance découlent en outre de cette utilisation de l’IA dans les établissements. Il n'y a qu'à penser à la place de l’innovation dans des systèmes de santé publics déjà sous forte pression quant aux ressources. Le développement de ces capacités techniques nécessitent des investissements financiers considérables, alors même que des soins et services de base (incluant l'accès à un médecin de famille) sont parfois manquants à l'heure actuelle.
L’innovation est fondamentale pour amener des solutions nouvelles à des problèmes qui perdurent ou pour faire face à des défis contemporains; toutefois, il faudra garder le cap sur une vision plus globale de l’allocation des ressources en santé.
Les relations humaines et l’intimité face aux « robots soignants »
Les robots participant aux soins et à l'accompagnement à domicile soulèvent, entre autres, des enjeux relatifs à l’appauvrissement des relations humaines et à la préservation d’espaces d’intimité.
Il faut réfléchir sur les gestes et activités qui devront demeurer du ressort de l’humain et dans quelles circonstances. Souhaitons-nous déléguer, en tout ou en partie, des fonctions relationnelles au robot? Cette situation mérite que nous définissions collectivement l’alliance humain-machine la plus fructueuse possible, celle qui enrichira le bien-être des individus en leur permettant de consacrer davantage de temps aux fonctions qui donnent un sens à leur vie et qui contribuent à leur dignité.
Cette étape complétée, nous pourrons en consolider les fondements au sein des différents corpus normatifs qui balisent les pratiques de soin (codes de déontologie, lois, règlements, etc.). Quant à l’espace d’intimité, la présence constante d’un robot au domicile des patients, susceptible de leur donner des conseils, rappels et de colliger des données à leur sujet (éventuellement transmissibles au personnel soignant ou à des membres de leur famille) soulève la question de la nécessité de préserver des espaces d’intimité.
Les individus doivent pouvoir garder de tels espaces, notamment en raison du respect de leur liberté et leur intégrité. Définir les pourtours d’un droit à la déconnexion numérique, dans divers domaines de notre vie, répond en partie à cette préoccupation.
Voilà des illustrations d’espoirs et d’enjeux qui découlent de l’introduction de l’IA dans le domaine de la santé. Il y en a de nombreux autres… L’élaboration d’un cadre juridique pour guider adéquatement le développement de ces technologies révolutionnaires s’impose.
Il nous faut toujours garder un esprit critique sain et dynamique face à l’IA. Lorsque l’histoire nous jugera sur cette étape charnière de mutation sociétale, nous devrons être fiers des progrès pour tous que nous y avons puisé.