Kiss: et si vous vous inspiriez du groupe mythique pour tromper les machines? Kissboy25/Wikimedia, CC BY-NC-SA

L’art et la mode à l’assaut de la reconnaissance faciale

La France, leader européen de la reconnaissance faciale ? Le Président Macron a récemment annoncé que l’état français consacrera 1,5 milliard de crédits dédiés à l’intelligence artificielle (IA) d’ici à 2021.

Le gouvernement souhaite notamment lancer Alicem (authentification en ligne certifiée sur mobile), un projet de reconnaissance faciale appelé à devenir une preuve d’identité pour les démarches administratives. Ce projet ferait de la France le premier pays européen à utiliser cette technologie.

Des institutions partagées

Face aux enjeux de sécurité que présente cette technologie, largement expliqués tant par les partisans que par les détracteurs, les institutions sont partagées.

Certaines villes ont préféré renoncer à cette technologie, comme San Francisco et Oakland aux États-Unis.

Rappelons que la valeur ajoutée de cette technologie réside dans la précision de machines apprenantes à analyser et faciliter la résolution de nombre de problèmes liés à la reconnaissance des objets et, par construction, des visages.

En outre, le nombre de données « offertes » à nombre d’acteurs privés par les utilisateurs et leurs proches (par exemple, « tagger » des amis sur les publications de réseaux sociaux) permet de les reconnaître plus facilement les individus, comme le permet aussi le déblocage de téléphone par reconnaissance faciale, les deux pratiques permettant de nourrir un puits de données où l’IA se servira afin d’identifier les individus.

Les écueils de cette technologie se sont déjà fait ressentir en Chine – le pays consacrera 22,15 milliards de dollars à cette technologie à l’horizon 2020 et 59,07 milliards de dollars d’ici 2025.

Or, Pékin fait face aux critiques suite à une utilisation liberticide de cet outil en inaugurant le système du « crédit social » ce qui a suscité une vague de protestations dans le pays.

Face aux angoisses légitimes de nombreux collectifs et citoyens sur le sujet de la protection des libertés individuelles, des groupes ont émergé dans le monde entier, mettant au point des techniques très créatives pour contrer les impacts de l’IA en termes de reconnaissance faciale.

Maquillage et camouflage

Il n’est pas toujours évident de réaliser qu’en débloquant son smartphone grâce à sa photographie ou qu’en identifiant ses amis sur les réseaux sociaux, nous fournissons autant de moyens d’être reconnus et utilisés. Certains internautes pourtant en ont pleinement conscience. Ils contribuent à différents mouvements certains militants, quand d’autres semblent avoir une approche plus opportuniste et commerciale, qui, loin d’être anecdotiques, travaillent à fournir des outils permettant de tromper l’IA.

Bijoux faciaux visant à tromper l’IA. Incognito/Ewa Nowak

Par exemple, certains mouvements artistiques cherchent à empêcher les systèmes de reconnaître les individus. Ces tendances se saisissent de la coiffure et du maquillage comme la marque Space * C, mais aussi des bijoux comme le propose la designer polonaise Ewa Nowak pour ceux et celles qui souhaiteraient consacrer le coût d’achat de ces bijoux au maintien de leur anonymat.

En ajoutant des formes principalement géométriques aux visages, ils brouillent les systèmes.

Malheureusement, si cela permet d’afficher un look post-punk rock, la méthode apparaît comme peu efficace. En effet, la reconnaissance faciale utilise un mode de lecture infra rouge qui oblitère les efforts mis en place par le maquillage, sauf à procéder à un recouvrement quasi complet digne du groupe de métal Kiss.

Port du masque

D’autres tentatives visant à défaire la reconnaissance faciale proposaient le port de masques imprimés en 3D comme le projet URME surveillance, mais cela s’avère délicat notamment dans des villes ayant légiféré afin d’interdire le port du masque comme Chicago.

Masques inventés par le projet « Urme Surveillance ».

Afin de contourner ce type de restrictions d’autres inventeurs visant à prémunir la population de la reconnaissance faciale ont développé des lunettes utilisant des LED infrarouges, toujours pour tromper la reconnaissance faciale.

D’autres initiatives proposent de porter des vêtements aux imprimés créés de telle façon que les systèmes pourraient les interpréter comme étant des visages, les poussant à l’erreur.

Prototype, Hyper Face : le vêtement induit la machine en erreur. Adam Harvey/ahprojects.com

Et la recherche ?

Des chercheurs se sont également penchés sur le sujet afin de trouver des méthodes permettant de tromper la reconnaissance faciale. Ce type de travaux peuvent s’illustrer au travers le logiciel de protection de l’identité comme Faceshield développé par un chercheur de l’Université de Toronto.

Le principe de ce logiciel serait d’ajouter des éléments complémentaires aux photos avant qu’elles ne soient plus chargées sur Internet. À première vue la photo ne semblerait pas modifiée, mais les éléments ajoutés, cachés à l’œil humain permettraient un ajout de bruit suffisant pour tromper la détection. Un autre projet est celui développé au travers DeepPrivacy, un réseau générant l’anonymisation des visages, qui utilise un ensemble de mécanismes afin d’échapper à la reconnaissance faciale.

Ce réseau s’appuie sur une architecture de type cGAN (conditional generative adversarial nets) développée par Mirza et Osindero et Goodfellow. Il s’agit d’une classe d’algorithmes permettant de générer des images avec un fort degré de réalisme.

Ces architectures cGANs sont des réseaux de neurones profonds, comme l’est le Machine Learning. Les cGANs ont la particularité de s’appuyer sur deux réseaux au lieu d’un. Ces deux réseaux sont ensuite utilisés l’un contre l’autre en quelque sorte. Le premier génère de nouveaux types de données tandis que le second, le discriminateur, tente d’évaluer l’authenticité de ces nouvelles données. Le but étant que le premier brouille les limites entre les données créées et les données authentiques, et réussisse à tromper le discriminateur.

Impossible anonymat

Toutes ces méthodes, qu’elles soient technologiques ou non ne seront néanmoins valides que pour les éléments qui n’ont pas déjà été identifiés, comme le rappellent nombre de détracteurs de la reconnaissance faciale. Le meilleur moyen de ne pas être reconnu est donc de ne pas être initialement identifié… Ce qui paraît de plus en plus impossible à réaliser.

Quelle que soit l’issue et les décisions qui seront in fine prises par les gouvernements, il est intéressant d’observer que le développement de la reconnaissance faciale a déjà eu pour effet premier d’aviver la créativité des internautes et citoyens, que ce soit dans le monde académique, technologique ou dans des champs moins attendus tels que la mode.

Notons également que, sans surprise, l’angoisse engendrée par la montée en puissance de la reconnaissance faciale s’accompagne d’une vague opportuniste qui propose déjà des produits sans aucune efficacité, mais pour tous les budgets.