Les avancées technologiques sont impressionnantes : robots familiaux, compagnons, phoque à la fourrure blanche et ses couinements de petit animal bardé de capteurs électroniques destinés aux malades atteints d’Alzheimer… Mais les androïdes et leur aptitude à détecter les émotions des personnes, leur sensibilité artificielle, font émerger d’autres questions. Faut-il conférer des traits humanoïdes aux robots de service ? Comment gérer leurs éventuelles capacités d’auto-apprentissage ? Quelles sont les limites éthiques à ne pas franchir ? Faut-il recommander la création d’un droit des robots ?
Les seniors : une population connectée
Notre population qui vieillit augmente plus rapidement que chez nos voisins. Elle s’adapte facilement à son environnement digital et utilise fréquemment smartphone et tablette (plus que les ordinateurs, Baromètre 55+ avril 2016). La « vieillesse » française est agile et connectée. Les générations actuelles et futures de personnes âgées sont plus à même d’anticiper et prévoir ces transitions : elles n’iront pas systématiquement en maison de retraite ou en Ephad, elles utiliseront certainement les technologies à domicile. 300 000 emplois seront créés d’ici à 2020 avec les aides à domicile, les auxiliaires de vie et les infirmiers… mais aussi des roboticiens (Dares, « Les métiers en 2020 ») !
Les digital seniors sont aussi prêts à payer pour accéder à des contenus additionnels spécifiques, un paramètre très intéressant pour les entreprises qui cherchent à développer leur business sur le digital..
Du robot anthropomorphique à une relation affective risquée
Une réflexion éthique accompagne le développement des robots notamment avec la protection des humains contre les risques liés à l’utilisation des robots : perte d’emploi (robots collaboratifs), atteinte à la vie privée et responsabilité entre l’acquéreur, le revendeur, l’intégrateur, le fabricant, etc..
Mais ce sont les robots créés pour ressembler à l’être humain qui suscitent plus d’interrogations. En effet, le robot peut avoir une apparence anthropomorphe et être doté d’empathie artificielle lui permettant d’identifier les émotions de ses interlocuteurs humains et d’interagir avec eux par des interfaces vocales et gestuelles (http ://intelligence-artificielle-robotique.weebly.com/les-robots-anthropomorphiques.html).
Ces machines sont programmées pour simuler un comportement humain et enrichissent leur programmation par l’apprentissage des données collectées : n’oublions pas qu’elles sont connectées ! L’interaction avec le robot devient naturelle et agréable. C’est le résultat d’une codification complexe des émotions et de leur détection. La machine est de plus en plus synchrone avec les besoins individuels, voire les anticipe car elle déchiffre les micro-expressions du visage. C’est un véritable caméléon ! Elle fait la relation avec les mouvements des yeux, des lèvres ou des sourcils pour en déduire une émotion ressentie par l’individu et interagir de façon pertinente. La relation est de plus en plus subtile : 6 000 paramètres sont exprimés par l’individu en deux secondes de parole ! Que faire alors si un retraité souhaite venir en aide à son robot et se met lui-même en danger ? L’individu ne risque-t-il pas de développer une addiction à son robot, une sorte de compassion artificielle à l’image de celle suscitée par le sauvetage du (promorobot russe IR77 ?) Faut-il légiférer pour imposer une mention telle que « ce robot est une machine dépourvue d’émotion » ?
L’indispensable contrôle de la décision autonome du robot thérapeutique
Les aspects juridiques, éthiques, économiques et militaires du développement rapide des systèmes automatisés obligent chercheurs et décideurs à se creuser la tête pour éviter ses potentiels dérapages. L’adoption de textes réglementaires sur le sujet ne fait pas de doute à la lecture des travaux de l’Assemblée nationale. L’Office parlementaire d’évaluation des choix scientifiques et technologiques dans son rapport « Les robots et la loi » sur la convergence entre les sciences humaines et sociales et la robotique indique qu’il est nécessaire de normaliser cette technologie, sans forcément créer une nouvelle branche du droit mais peut-être grâce à une charte constitutionnelle de la robotique.
Quant à la captation permanente des données de santé par ces machines placées au plus près de l’intimité des seniors, elle pose de nouveau le problème de l’équilibre à trouver entre protection de la santé et préservation de la vie privée.
Ces robots opèrent une gestion médicale et prennent en charge de façon plus ou moins importante des personnes âgées et/ou dépendantes, certains permettent de soulager les aidants ou de suivre à distance les personnes âgées. D’autres encore permettent de soulager des douleurs, limiter des dégénérescences ou permettre le recouvrement de certaines capacités motrices, etc… Des robots thérapeutiques assistent les seniors dans la prise de médicaments ou les mettent en relation avec des médecins ou pharmaciens. Le robot japonais HAL a d’ailleurs été certifié comme robot thérapeutique médical en Europe et des essais cliniques sont prévus au Danemark. Il ne fait aucun doute que ces robots auront un puissant impact sur la santé connectée des seniors.
Comment en faire des machines morales ?
L’intelligence artificielle a pu faire d’énormes progrès grâce au _deep learning _et les trois lois de la robotique sont aujourd’hui dépassées :
Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger.
Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la première loi.
Un robot doit protéger son existence dans la mesure ou cette protection n’est pas en contradiction avec la première ou la deuxième loi.
Avec toutes les données collectées, un réseau neuronal approfondi se créé dans la machine, sur le modèle de l’architecture du cerveau, et qui peut être formé pour faire toutes sortes de choses. C’est ce qui permet par exemple le tagging automatique de vos photos sur FB ou les recommandations d’achats sur le net.
Ces capacités d’auto-apprentissage peuvent-elles passer hors de contrôle et générer un conflit digne des films de science-fiction entre l’homme et la machine ? La réflexion éthique est non seulement nécessaire mais urgente souligne Laurence Devillers chercheuse au Laboratoire d’informatique pour la mécanique et les sciences de l’ingénieur (Limsi) du CNRS.
L’encadrement de la programmation (donc des programmateurs) devra donc s’accentuer avec l’amplification de l’utilisation des robots thérapeutiques. L’ingénieur écrit le programme et choisit les données qui le nourriront, il est donc possible d’ajouter des paramètres moraux, éthiques, juridiques à l’algorithme dès leur conception.
La valeur éthique de la « datasphère » médicale doit s’affirmer avec la modélisation d’une analyse éthique des big data : une hiérarchisation sélective des données de santé, de l’ethical data mining et des outils pour une évaluation éthique des big data en santé sont proposés par un économiste et gestionnaire de santé, Jérôme Béranger.
Cela doit perdurer par la suite au fil de leur évolution par un affective learning qui reste loyal.
Une charte pour encadrer la recherche sur la robotique, une autorisation de mise sur le marché, un permis d’utiliser un robot… Autant de suggestions qui pourront canaliser la gestion médicale que le robot thérapeutique sera amené à faire dans le respect de préconisations éthiques.
Ces grandes questions seront examinées par le Groupe de travail sur l’éthique de la robotique de la Commission mondiale d’éthique des connaissances scientifiques et des technologies (COMEST) de l’Unesco qui se réunira en septembre à Paris. Elles entourent le développement des robots physiques et des agents logiciels conçus pour fonctionner indépendamment du contrôle humain direct et qui deviennent capables d’apprendre par eux-mêmes de nouveaux processus ou comportements. Ces recommandations guideront les gouvernements et les ONG et… les amateurs de robot camps ?