Image 20160419 13905 nxga57.jpg?ixlib=rb 1.1

Drones autonomes : peut-on embarquer la prise de décision ? (2)

Le MAV, drone militaire de surveillance. United States Navy/Flickr

Drones autonomes : peut-on embarquer la prise de décision ? (2)

Le second article de notre mini-série sur les drones porte sur la question de l’autonomie. Cette notion soulève en effet de nombreuses interrogations, dont les sciences cognitives se sont emparées, en particulier, l’intelligence artificielle (IA) et la psychologie cognitive. L’un des principaux points à discuter est la notion de « prise de décision ».

En IA, les chercheurs développent des programmes qui doivent répondre à une problématique qui n’est pas clairement formulée. Et qui seront développés en fonction des différentes données en temps réel reçues par les capteurs du drone. En psychologie cognitive, et plus particulièrement dans le cadre des « facteurs humains », l’interaction entre l’homme et la machine est complexe à définir, fonction en particulier de l’intensité (ou du niveau/degré) de collaboration.

Les recherches sur les drones s’appuient sur de nombreuses études de robotique. Un drone doit pouvoir être adaptatif en fonction de sa mission, de l’environnement et des imprévus. C’est ce que l’on attend, par exemple, des drones de reconnaissance au contact (DRAC) ou du système Drogen (drones du génie). L’intégration des informations est essentielle au bon déroulement d’une mission. Notons que d’une manière générale, les drones ne sont pas plus rapides qu’un opérateur humain dans leur décision, mais plus fiables et plus précis dans l’exécution.

Démonstration des drones du génie.

Facteurs humains

L’une des questions prégnantes dans le domaine des « facteurs humains » est relative à la détermination du « bon » niveau de coopération et d’intégration entre le drone et l’opérateur humain, surtout au niveau de la « prise de décision » (qui décide quoi ?). La plupart des programmes informatiques utilisent des algorithmes précis et efficaces pour résoudre des problèmes structurés, ce qui n’est pas le cas des individus.

Ainsi, les psychologues théoriciens Tversky et Kahneman ont montré que les individus prennent rarement leur décision de manière rationnelle. De fait, les ressources cognitives des individus ne leur permettent pas d’utiliser complètement un système de règles rationnelles (par exemple logico-mathématiques). De plus, ils sont influencés par leurs émotions.

Les individus ont donc recours à des raccourcis cognitifs que l’on appelle des « heuristiques ». Les heuristiques sont des opérations mentales intuitives, rapides et automatiques. Par exemple, l’heuristique de représentativité correspond à la tendance à se baser sur des stéréotypes, ou à généraliser à partir de cas particuliers. La comparaison avec des situations déjà vécues permet d’aller plus vite dans l’analyse de la situation en se focalisant sur ce qui diffère dans le nouveau cas de figure.

Pour être le plus efficace possible dans la prise de décision, il faut avoir une bonne conscience de la situation. Cela comporte trois niveaux :

  • La perception : il faut comprendre l’environnement, sélectionner les informations pertinentes par rapport aux autres.

  • L’intégration : il faut combiner les informations les unes avec les autres. Cette étape essentielle permet de s’assurer que notre représentation de la réalité est correcte.

  • La projection (de la situation) : c’est ce qui va donner un sens aux informations. Elle permet d’anticiper les événements et donc autorise la prise de décision (sinon il n’y aurait qu’une réaction sans choix).

Les mécanismes qui interviennent dans la prise de décision chez l’homme sont complexes et intrinsèques. De ce fait, leur mise en œuvre via l’outil informatique soulève de nombreuses interrogations.

Notons tout d’abord que, comme le dit le romancier John Wyndham, « l’homme et la machine sont naturellement complémentaires : ils s’assistent l’un et l’autre ». L’une des questions actuelles en IA est de faire le lien entre les heuristiques utilisées par les hommes et la programmation. Une autre question est de savoir comment utiliser le grand volume de données issues des divers capteurs du drone.

Les [premières recherches en IA](http://www.cog.brown.edu/courses/cg195/pdf_files/fall07/Simon%20and%20Newell%20(1971) datent de 1958 et s’interrogeaient déjà sur les mécanismes de la prise de décision. Certains chercheurs l’envisageaient comme une structure pouvant être implantée sur un ordinateur alors que d’autres considéraient la prise de décision comme impliquant des mécanismes non structurés et donc nécessitant l’intervention d’un opérateur humain.

Modélisation de réseaux de neurones SOM. Jimmy-neutron/Wikimédia, CC BY-SA

Ces deux visions opposées des mécanismes de la prise de décision ont eu des conséquences pour la programmation elle-même. Certains chercheurs se sont inspirés du fonctionnement du cerveau, et en particulier les connexions entre les neurones que l’on sait être la localisation de la mémoire, pour donner naissance aux réseaux de neurones artificiels (informatiques).

Ces programmes « neuronaux » peuvent faire appel à des méthodes d’apprentissage (on dit aussi d’optimisation) de type probabiliste, notamment bayésienne. L’idée est de déterminer la probabilité de l’événement à venir à l’aide des probabilités des événements déjà rencontrés et évalués, afin de prévoir le futur et décider en conséquence de la bonne action à accomplir (« gouverner c’est prévoir »).

Ce que permet l’utilisation des réseaux de neurones artificiels, c’est l’évaluation d’une situation directement depuis sa représentation numérique et ceci sans passer à aucun moment par une représentation symbolique qui introduit un biais, simplifie, voire dénature la situation perçue, et donc la qualité de l’estimation de sa probabilité.

On est encore loin d’une synergie parfaite entre mémoire sémantique (connaissances générales mises en œuvre par les algorithmes et/ou règles appliqués indépendamment des situations) et mémoire épisodique (données liées au vécu individuel intégrées par des réseaux de neurones artificiels) lors de la prise de décision. À ce jour, les comportements des drones sont fiables et prévisibles seulement si leur but, et les processus de programmation, sont bien définis et structurés – dans un monde virtuel, ou idéal, en quelque sorte.

Pilotes américains en Afghanistan, drone Raven. Senior Airman Elliott Sprehe/Wikipédia

La collaboration entre le drone et l’opérateur est encore essentielle dans la prise de décision en particulier dans le domaine militaire qui nécessite l’expérience de l’opérateur. Les efforts se poursuivent pour tenter de modéliser cette expérience, ou « simplement » de l’apprendre avec des réseaux de neurones artificiels. Les progrès récents de l’IA (voir la performance d’AlphaGo par exemple) autorisent l’optimisme.