Comment évaluer l’éthique d’un algorithme ?

Ethique. Tameyourassets.com, CC BY

Les algorithmes ? Le mot est entré dans le débat public sans que son objet ne soit forcément bien défini. Nouvelles Technologies de l’Information et la Communication, Cloud Computing, objets connectés, intelligence artificielle, blockchain… Il est mis à toutes les sauces. D’où une sensation de flou. Et des interrogations teintées d’inquiétudes autour de la manipulation et de l’exploitation des données numériques, entre confidentialité et transparence, entre intérêt personnel et collectif.

Dans le domaine de la santé, cette nouvelle science qui utilise les outils mathématiques pour traiter la montagne de données des big data est particulièrement cruciale. On en espère une meilleure compréhension d’évènements telles que les maladies, une prise de décision optimale, et une activité prédictive. Voici quelques exemples de l’utilisation des algorithmes.

L’exploitation des big data peut identifier un danger sanitaire, un risque pour la santé, et parfois le prévenir. Par exemple, l’actrice américaine Angélina Jolie a su, suite au séquençage de son génome, qu’elle était porteuse d’une mutation dans le gène BRCA1 entraînant un risque de plus de 90 % de développer un cancer dans la dizaine d’années à venir. Elle a décidé de subir des opérations en conséquence.

Dans le traitement du cancer, des systèmes experts peuvent traiter en un temps record environ 10 000 milliards de données d’un séquençage d’ADN provenant d’une tumeur d’un patient donné, une tâche impossible aux médecins les plus chevronnés.

L’ordinateur Watson traite le big data de la santé. IBM España

Puissance des prédictions

L’outil « Google Flu Trends », prend en compte toutes les recherches effectuées sur Google et mesure combien de fois le terme « grippe », « gastro-entérite » ou « varicelle » a été recherché partout dans le monde. L’idée est que les individus ont tendance à rechercher des informations sur la grippe ou sur une autre maladie quand ils pensent en avoir les symptômes. Et, dans la grande majorité des cas, ils les ont… Quand Google annonce une augmentation des recherches sur une épidémie grippale, on y a généralement droit deux semaines plus tard.

Les algorithmes contribuent également à lutter contre la propagation des épidémies. En Afrique, les données de géolocalisation du téléphone mobile se révèlent très précieuses afin de suivre les mouvements de la population via des flux réels de déplacement, et ainsi anticiper le développement de maladies dans un pays. Ce qui a permis notamment de prédire la propagation du virus Ebola.

Enfin, les « données massives » impliquant une large cohorte de patients a le potentiel d’accélérer la recherche scientifique et les protocoles expérimentaux sur de nombreuses pathologies et traitements. Par exemple, le réseau social Facebook a été utilisé par des chercheurs pour établir une cartographie des Américains les plus à risque d’obésité. Une telle recherche prendrait, sans ces outils, un temps considérable et coûterait une fortune à l’échelle de millions d’individus.

Ce nouveau monde autour des algorithmes et des big data étudie en permanence le monde réel dans l’objectif de créer de la prévisibilité et de la prédictibilité. Et soulève une question majeure : comment s’assurer qu’un algorithme soit éthique ?

Une réflexion sur l’évaluation éthique des algorithmes s’impose donc à nous. L’objectif est de donner du sens, de la transparence, de la sécurité et de la confiance autour de ces outils afin de mieux les concevoir, les exploiter et les contrôler.

L’éthique appliquée au numérique

Protection des données. TheDigitalWay/Pixabay

L’action éthique constitue avant tout une réponse (du latin respondere, « répondre de, répondre à, d’où responsabilité ») à une situation limite et complexe. Généralement, l’éthique du numérique se traduit par des questionnements, premièrement, sur le comportement et l’usage des individus face aux NTIC ; et deuxièmement, sur le comportement de plus en plus autonome des outils technologiques. Dans ce cadre, l’éthique, en tant que telle constitue un mode de régulation des comportements basé sur le respect de valeurs que l’on juge essentielles, et apporter un cadre à l’utilisation des algorithmes de traitement. Il ne faut pas oublier la dimension temporelle (actions à long terme) et très souvent l’irréversibilité. La responsabilité des humains se retrouve au centre de l’éthique : ainsi, la responsabilité d’une entreprise c’est de savoir comment bien gérer, éthiquement, parlant ses actions numériques.

Les questions éthiques doivent faire partie intégrante de leur mission et ainsi construire une réflexion morale orientée. Dès lors, on ne parle plus d’une approche interdisciplinaire mais plutôt d’une fusion aboutissant à une véritable éthique du numérique où la question des implications sociales et morales s’intègre dans les NTIC. Dans ces conditions, il devient essentiel d’établir des attentes et des préconisations éthiques spécifiques au monde numérique, en gardant toujours en tête cette question : est-ce que le numérique peut induire un risque de mésusages de nos comportements éthiques qui va à l’encontre de la personne ?

Evaluation de l’éthique des systèmes algorithmiques

Il est dès lors essentiel d’évaluer le numérique comme un système continu sans vouloir cloisonner les différents éléments qui le constituent. De fait, l’étude autour du traitement algorithmique se découpe selon trois catégories interdépendantes entre elles, à savoir :

.L’éthique des données (valeur intrinsèque) : identification, construction, nature et caractéristique des données traitées par l’algorithme et les échanges de ces données ;

  • L’éthique des algorithmes (valeur de gestion) : fonctionnement, opérations et processus associés à l’algorithme durant tout le long du cycle de vie des données ;

  • L’éthique des pratiques (valeur d’usage) : explication sur la qualité des finalités et des résultats de l’algorithme.

Systèmes algorithmiques. ADEL, CC BY

La société que j’ai co-fondée, ADEL (algorithm data ethics label) se veut être le premier label éthique à vocation mondiale autour des données numériques et des algorithmes de traitement. Il s’agit de fournir un cadre de réflexions et de bonnes pratiques éthiques sur l’élaboration, la mise en place et l’usage des systèmes algorithmiques, intelligence artificielle et projets big data afin de mieux les concevoir, les encadrer, les contrôler et les suivre au sein des entreprises.

Ce label a été créé pour apporter du sens, de la sécurité, de la transparence et de la confiance aux traitements de données numériques des entreprises auprès des citoyens.

En voici plusieurs aspects :

.La confiance dans la protection et l’usage des données ;

  • La confiance dans la fiabilité, l’intégrité, et l’exactitude des données échangées ;

  • La confiance dans le contrôle effectif sur les données ;

  • La confiance dans la finalité, le fonctionnement et l’usage des algorithmes ;

  • La confiance dans la performance, la sécurité et la résilience des nouvelles technologies de l’information et de la communication et leurs réseaux de supports.

En conclusion, une gouvernance contraignante et stricte de sanctions autour des acteurs du numérique ne me paraît pas pertinente. L’aspect réglementaire illustré par les CNIL européennes ne devrait représenter qu’un dernier recours, en tant que régulation ex-post. Au préalable, il devient essentiel d’examiner la dimension éthique des traitements algorithmiques ex-ante. La gouvernance et l’encadrement des NTIC doivent largement dépasser la dimension rigide purement technologique et normative pour embrasser la dimension transversale, flexible, mouvante et évolutive de l’éthique algorithmique.

Cette éthique algorithmique basée sur le principe de l’« ethics by design » doit s’imposer dans les années à venir comme pierre angulaire de la relation de confiance à construire avec le marché qui s’autorégule. Cela contribuera à rendre plus vigilants les utilisateurs et les instances publiques sur l’exploitation des big data, et se demander jusqu’où l’on peut échanger sa vie privée pour des services numériques.


Jérôme Béranger participera à la table ronde « Intelligences » organisée par la société Brain’s Agency jeudi 29 mars à Paris.

Support evidence-based journalism with a tax-deductible donation today.