L’émotion : talon d’Achille de l’intelligence artificielle

Une IA faible peut jouer aux échecs, une IA forte serait heureuse de gagner. Michal Parzuchowski/Unsplash, CC BY-SA

Les progrès technologiques métamorphoseront-ils l’intelligence artificielle (IA) faible en forte ? Profitons de l’occasion pour revenir sur les principes de l’intelligence artificielle et imaginer le futur.

La définition de l’IA qui a ma préférence est celle d’un algorithme permettant à une machine de prendre une décision. L’IA faible, disponible aujourd’hui est celle d’un automate qui ne sait prendre de décision qu’en piochant dans ce qu’il lui a auparavant été inculqué ; l’intelligence artificielle forte que l’on espère pour demain est celle d’un humain qui décide avec sa conscience et son émotion.

L’intelligence artificielle faible

L’intelligence artificielle faible a officialisé son renouveau en 2012 avec les spectaculaires performances du « deep learning ».

Les résultats de l’IA faible sont incroyables : mettre un nom en temps réel sur des visages capturés par de la vidéosurveillance, modifier une vidéo au gré des mimiques exercées par un opérateur, endurance aux commandes d’un véhicule sans manifester le moindre signe de fatigue.

La machine décrit les images qu’on lui présente : « Une jeune femme joue au Frisbee dans un parc ». Quoique l’intelligence artificielle faible puisse sembler manipuler les concepts, il n’en est rien. La lecture assidue de millions d’images permet d’identifier un véhicule quel que soit le modèle ou la position.

Mais attention : pour un humain, la notion de véhicule recouvre aussi bien une berline, une familiale ou un cabriolet alors que la machine fait un simple lien entre une suite de pixels et une chaîne de caractères. Ayant enregistré tous les modèles dans toutes les positions, elle ne sait que piocher dans la bibliothèque et sera démunie face à une configuration inédite. La machine cherche quelle suite de pixels correspond le mieux au modèle présenté puis la rapproche de la suite de caractères ASCII associée : « Femme », « Frisbee », « Parc ».

La belle mécanique peut être leurrée par un simple bruit imperceptible à l’humain mais contenant une chaîne fortement associée à un objet autre. Une phrase entendue par l’humain n’aura pas la même interprétation par la machine pour peu qu’un signal sonore très précis dissimulé dans du bruit annonce un message différent.

On s’éloigne des rêves suscités par des termes comme neurones artificiels mais les performances de l’outil restent incroyables.

L’intelligence artificielle forte

L’IA forte est celle de l’humain. Elle est dotée de conscience, capable d’émotion. Elle suscite l’espoir d’horizons nouveaux et la peur d’un ascendant sur l’homme.

Cela dit, il y a encore du travail. La compréhension de l’intelligence humaine est un préalable à la mise en œuvre de l’IA forte. D’où viennent l’émotion, la conscience de soi et de l’environnement ? Ces caractéristiques sont là chez l’animal, mais on n’a pas plus de prise sur l’homme et ses cent milliards de neurones que sur le Caenorhabditis elegans, un petit ver d’un millimètre dont le système nerveux est composé de seulement trois cent deux cellules neuronales.

CrawlingCelegans

Depuis des siècles science et religion sont en quête de la conscience mais la connaissance du sujet ne s’est pas réellement étoffée : ce n’est pas demain que « Je pense donc je suis » succèdera à « Hello world ! », la traditionnelle phrase utilisée pour tester un langage de programmation. Même si on sait maintenant localiser les flux d’information entre les différentes zones du cerveau.

À l’inverse de l’IA faible, l’IA forte fait rêver mais nulle voie ne se présente. On aimerait que les spectaculaires performances de l’IA faible la transforment en IA forte.

IA forte fille de l’IA faible ?

Mémoire et processeurs sont à la base de l’IA faible. En schématisant l’humain, on peut remplacer « mémoire » par « souvenir » et « processeur » par « prise de décision ». Et la différence est de taille.

Côté souvenirs, le jeu se fait entre mémorisation, oubli et reconstruction. Blake A. Richards et Paul W. Frankland explicitent ces mécanismes dans la revue scientifique Neuron.

La mémoire arrange ses souvenirs. On oublie faute d’être submergé par les détails. Bien plus : les souvenirs se reconstruisent et se refaçonnent à chaque « accès mémoire » en associant le réel et l’imaginaire suivant nos émotions. Un peu comme une pâte à modeler, nos souvenirs se remodèlent au fil de la sollicitation de notre mémoire.

Une mémoire submergée par un excès de détails ne sait plus analyser : c’est l’hypermnésie. Elle ne sait plus reconnaître un visage dès lors que des écarts à peine discernables troublent la perception. Elle ne sait plus trier les informations pour se forger un jugement.

L’humain a besoin d’une mémoire imparfaite qui fasse des erreurs à l’opposé de ce que peut offrir une mémoire électronique.

Émotion et décision

Aujourd’hui, on considère que l’émotion joue un rôle considérable dans la prise de décision comme l’indiquent les travaux de Thomas Boraud au CNRS ou les travaux du prix Nobel Daniel Kahneman (son ouvrage Système 1, système 2). Probablement parce qu’elle permet une rapidité d’exécution. La survie face à un prédateur repose sur des sensations construites par l’expérience.

Descartes considérait qu’une bonne décision se prenait sans émotion, ce qui est contredit par les travaux actuels. Le hardware peut-il intégrer l’émotion ?

Roger Penrose s’est également penché (Les ombres de l’esprit : L’esprit, l’ordinateur et les lois de la physique) sur la capacité d’un ordinateur d’intégrer la conscience dans ses raisonnements. Pour lui, pas de doute : l’émotion n’est pas soluble dans les algorithmes, même si par ailleurs ses travaux sur le lien avec la mécanique quantique ont fait l’objet de discussion.

L’humain intègre les émotions dans ses prises de décision, chose inaccessible aux processeurs électroniques.

L’IA faible n’enfantera pas l’IA forte

L’architecture électronique des machines de l’IA faible est faite de mémoire et processeur notamment. La mémoire de l’IA forte est faite de souvenirs et son processeur d’émotions.

Sans l’émotion, l’IA faible ne saura déboucher sur l’IA forte. Un système électronique construit selon Alan Turing ne peut pas offrir l’émotion. Même avec une puissance dopée par des calculateurs quantiques, la logique électronique restera fondamentalement opposée à la logique émotionnelle.

Love this article? Show your love with a gift to The Conversation to support our journalism.