Les professionnels de la santé – médecins, infirmières, pharmaciens et tous les autres – seront aux premières loges des transformations majeures qui découleront du déploiement de l’intelligence artificielle (IA). Dans ce contexte, l’IA soulève des enjeux déontologiques que les ordres professionnels devront examiner.
Le secteur de la santé est considéré comme l’un des plus effervescents et prometteurs sur le plan des développements en IA, suscitant de ce fait des investissements considérables.
Read more: Comment l’IA va transformer le système de santé
Les promesses de l’IA, dont certaines produisent déjà des effets positifs, incluent l’amélioration de la performance diagnostique médicale (en imagerie médicale, par exemple, pour diverses tumeurs ou maladies), l’optimisation de l’allocation des ressources (lits aux soins aigus, ressources humaines, équipement médical) et l’accélération du processus de découverte des médicaments.
Des avantages et des risques
À l’inverse, certains risques associés à l’IA existent bel et bien, comme ceux des biais et de la discrimination à l’égard de groupes d’individus (par exemple, une sous-évaluation diagnostic du cancer de la peau par des IA pour les personnes noires). Ces biais peuvent être liés à la sous-représentation de ces groupes dans les données utilisées pour entraîner l’IA ou en raison de certains préjugés des concepteurs d’IA, qui se répercutent dans les paramètres de l’algorithme.
Dans le contexte de la Covid-19, différentes initiatives d’IA à l’échelle mondiale ont rapidement été mises en place pour soutenir les professionnels de la santé, les patients, les gestionnaires et les autorités de santé publique dans leurs efforts de lutte contre la pandémie. À titre d’exemples, l'IA a été utilisée pour faciliter l’évaluation des risques d’exposition au virus, accélérer le diagnostic des cas de Covid et pour contrer la désinformation en temps de pandémie.
L’IA est maintenant considérée comme une option incontournable de l’arsenal permettant de répondre aux défis contemporains des systèmes de santé ; conséquemment, elle détient un potentiel transformateur de taille pour ce secteur d’activité, incluant la pratique de ses professionnels. Il convient alors de développer un encadrement déontologique adéquat pour soutenir l’utilisation de cette technologie par ceux-ci, en plus de s’assurer qu’ils disposent d’informations et de formations appropriées à ce sujet.
De nouvelles normes
En collaboration avec des ordres professionnels de la santé au Québec, nous avons mis sur pied un groupe de travail sur les enjeux normatifs liés à l’IA pour les professions de la santé et des relations humaines. Ce groupe a notamment pour mandat de proposer de nouvelles normes de pratique à établir pour guider ces professionnels.
Avec ce projet, nous analysons, d’une part, l’impact de l’IA sur les obligations déontologiques des professionnels de la santé et, d’autre part, nous réfléchissons à la manière d'adapter ces obligations à cette réalité technologique. Par exemple, l’un des enjeux souvent cités est celui de la « boîte noire ». Lorsqu’un système d’IA génère une recommandation diagnostique ou thérapeutique, alors que le professionnel n’est pas en mesure de comprendre le fonctionnement de l’algorithme sous-jacent, comment doit-il composer avec ses obligations déontologiques ? Comment peut-il justifier ses interventions suivant les normes cliniques applicables et donner une information adéquate au patient ?
Les ordres professionnels de la santé auront ensuite l’occasion de se positionner sur ces avenues de réformes, pour en valider la pertinence selon leurs contextes spécifiques et pour les prioriser en fonction de leurs besoins.
Protéger le public
Rappelons tout d’abord que les ordres professionnels ont pour principale mission de protéger le public. Pour y parvenir, ils sont appelés à contrôler l’exercice de la profession par leurs membres, en instaurant un cadre réglementaire et en exerçant des responsabilités de vérification, d’enquête et de poursuites en matière disciplinaire.
Les ordres doivent adopter un code de déontologie. Ils peuvent également publier différents documents à caractère normatif pour atteindre leur objectif (guides d’exercice ou lignes directrices) en plus de contribuer à la sensibilisation et à la formation de leurs membres sur différents enjeux.
En plus des ordres professionnels, d’autres intervenants jouent un rôle important dans l’encadrement réglementaire en matière d’IA dans le domaine de la santé, dont Santé Canada et le ministère de la Santé et des Services sociaux du Québec, sans compter les autres autorités gouvernementales en matière de protection des renseignements personnels. L’ensemble de ces intervenants forment une mosaïque complexe d’activités de réglementation qui influent sur le déploiement de l’IA au sein du système de santé.
La boussole de l’IA responsable
Dans le cadre de notre groupe de travail, nous avons développé une grille d’analyse pour définir les impacts potentiels de l’IA eu égard aux objets usuels de la législation et de la réglementation professionnelles. Parmi ces objets se trouvent l’« admission à la pratique », l’« assurance responsabilité professionnelle », la « tenue de dossier », la « qualité et la sécurité de la pratique », la « qualité de la relation professionnelle », le « consentement » et l’« indépendance professionnelle », entre autres.
Ensuite, en nous appuyant sur la Déclaration de Montréal pour un développement responsable de l’IA, qui édicte dix principes pour une IA responsable, nous évaluons ceux qui sont susceptibles d’être interpellés par ces obligations professionnelles. Enfin, une fois ce repère normatif identifié, soit la « boussole de l’IA responsable », nous proposons des réflexions et interventions à considérer par le système professionnel québécois pour s’ajuster aux effets – tant les bénéfices que les risques – qui découlent de l’IA.
Dans un contexte où l’encadrement juridique de l’IA est souvent décrié pour sa faible capacité à suivre la rapidité des développements technologiques, l’intérêt des ordres professionnels à agir rapidement pour favoriser une intégration maîtrisée et responsable de l’IA dans la pratique des professionnels de la santé mérite d’être salué. Cet encadrement constitue une composante importante pour appuyer l’innovation en santé. En effet, l’incertitude quant aux conséquences juridiques liées au recours à une pratique innovante constitue un frein à son utilisation par les professionnels.
L’identification des attentes et des balises à l'égard de l’utilisation de l’IA par les professionnels de la santé permettra non seulement de mieux protéger le public, mais aussi d’outiller ces professionnels dans une pratique en constante évolution et de plus en plus complexe.