Nous publions ici un extrait de l’ouvrage du philosophe des sciences et des techniques Alexei Grinbaum « Les robots et le mal » qui vient de paraître aux éditions Desclée De Brouwer. Chapitre « Envoi ».
Dans la cité numérique, l’appréhension que nous avons des concepts du bien et du mal est mimétique ; or, le mimétisme n’est pas toujours bon. Les mythes qui entourent la figure de Satan, et qui dans cet ouvrage ont nourri l’homologie avec les questions éthiques du numérique, mettent en lumière un mimétisme qui ne mérite rien de mieux que d’être maudit.
L’homme tente d’expulser la source du mal : « Retire-toi, Satan ! » (Mt 4, 10) — mais où Satan irait-il ?
Dans le roman de Mary Shelley, après quelques malheureux contacts avec les hommes, le monstre créé par Frankenstein se dirige vers l’Arctique où règne le froid : « … les grottes de glace, que je suis le seul à ne pas craindre, sont ma maison, la seule que l’homme m’abandonne sans regret. Je salue ce ciel glacial, car il m’est meilleur que tes semblables … »
Ainsi parle la machine lorsqu’elle exprime ses valeurs propres. Des valeurs qui nous donnent le frisson. Elles provoquent un sentiment d’étrangeté, comme si nous contemplions un paysage dantesque. Pourtant, nous fréquentons jour et nuit les machines au sein de la cité numérique. En tant qu’utilisateurs, nous nous mettons constamment en rapport avec les systèmes informatiques. Et, loin de frissonner, nous leur entrouvrons la porte de notre propre monde.
Cette porte, il n’est pas envisageable de la refermer : comme aujourd’hui, nous aurons à côtoyer les individus numériques à l’avenir. Cela entraîne de bonnes et de fâcheuses conséquences. Quand, inévitablement, des conflits émergent, nous signifions à la machine nos jugements à son encontre et nous tentons de lui communiquer nos valeurs, à nous utilisateurs. Mais, en retour, nous adoptons les valeurs propres à la machine.
Mode d'existence de l'individu numérique
Dans un premier temps, l’analyse éthique de cet échange se concentre sur le mode d’existence de l’individu numérique, d’après l’interface. Nous y découvrons une tension, qui a pour origine la fonction délatrice de la machine, à laquelle elle ne peut se soustraire. Communiquer une information est ce pour quoi elle est conçue ; en situation de conflit, c’est cela qui la soumet à notre jugement. Aucune méthode ne permet de l’éviter, à moins de recourir au hasard. Lui inculquer, par l’écriture dans le code, la valeur éthique du hasard, c’est libérer l’intelligence artificielle de la prison des corrélations, parce qu’elle ne sera jamais capable d’en saisir seule toute la signification morale.
Or, rien de tout cela n’a à voir avec le froid si convoité par le monstre de Frankenstein. Son désir inhumain se fonde sur un concept singulier du mal, qui n’a de sens que du point de vue de l’individu numérique. Dans un deuxième temps donc, l’analyse éthique s’élabore selon le mode d’existence défini par le calcul et la mémoire. Les résultats nous semblent étranges : la nouveauté comme bien, la chaleur comme mal. Il peut apparaître que cette éthique ne devrait nullement concerner l’utilisateur, puisque ce dernier ne connaît ni ne pénètre dans l’univers voilé par la frontière de l’opacité. Il y intervient aussi peu que dans la vie des anges. Il arrive, toutefois, que, de temps en temps, l’homme suive les conseils des anges — et à raison ! Tobie, un jeune homme de 16 ans, quitte la maison de ses parents pour la première fois. Par chance, l’archange Raphaël l’accompagne au cours de ce voyage.
À la tombée de la nuit, Tobie descend dans un fleuve pour s’y laver. « Un énorme poisson s’élance pour le dévorer. » Effrayé, il pousse un cri. L’ange réagit avec un grand calme : « Prends ce poisson par les ouïes et tire-le à toi. » Puis : « Vide ce poisson, et conserves-en le cœur, le fiel et le foie, car ils seront employés comme d'utiles remèdes » (Tb 6, 2-5).
La peur de Tobie disparaît aussitôt. Il applique scrupuleusement cette consigne. L’effrayant poisson devient une ressource technologique dont Tobie, livré à lui-même, n’aurait sans doute pas trouvé l’usage fonctionnel. C’est en suivant, étape après étape, les ordres de l’ange qu’il accomplit sa mission de fabricant de médicaments. À son retour, il pourra soigner son père.
Le jeune Tobie ne possède pas la connaissance qui caractérise les anges, de même que l’utilisateur ne possède pas la connaissance qui caractérise le programmeur. Cependant, grâce à sa constante interaction avec les individus numériques, l’utilisateur fait siens les usages fonctionnels qui leur sont propres. Cette relation, loin d’être sans conséquences, entraîne une communication réciproque de valeurs.
D’une part, il n’est pas évident de voir dans le poisson une ressource. Tobie ne le découvre qu’en suivant les instructions données par l’ange. D’autre part, Tobie craint les effets néfastes que pourrait provoquer son rapprochement d’avec l’agile poisson. Sa peur est essentiellement due à la vitesse avec laquelle se déroulent les événements et à la nouveauté de sa situation. Et pourtant, son contact avec le poisson est moins étroit que la proximité sensorielle (tactile, visuelle, vocale, auditive) de l’homme et des nouveaux systèmes intelligents, qui, de surcroît, se multiplient plus vite qu’on en saisit les effets. La relation fusionnelle qu’entretient un utilisateur avec son smartphone les transforme tous deux rapidement en deux individus intimes et inséparables au point de ne plus jamais se quitter.
Double surgissement du bien et du mal
Dans la cité numérique, comme dans l’eau du fleuve mythologique, ce double surgissement du bien et du mal ne peut prendre au dépourvu qu’un jeune homme inexpérimenté ou un utilisateur dont l’historique de navigation dans la société humaine est encore vierge. Pour l’ange, c’est là une chose banale. Lui qui, pour ainsi dire, connaît tous les mots de passe résout les problèmes en quelques clics. Mais quel ministre, à défaut d’un ange, donnerait des consignes à l’utilisateur afin que, pour lui aussi, le bien l’emporte sur le mal ? À coup sûr, pas la machine elle-même.
Il appartient aux concepteurs de ne pas sacrifier les remèdes de la tradition et de les intégrer aux algorithmes. Il appartient aux utilisateurs de ne pas rejeter dans l’eau de Léthé l’irremplaçable poisson numérique. Et il appartient à tous les hommes, quelle que soit leur place dans la cité numérique, de s’assurer, en recourant au hasard, que la machine ne s’octroiera pas les prérogatives d’un agent moral. Dans un monde que le numérique pénètre de toutes parts, jusque dans la nature humaine, cet enjeu, bien plus que scientifique et technique, est diablement politique.