Chronique juri-geek

Pour gagner la bataille de l’intelligence artificielle, multiplions les juristes-geek !

Exposition numérique. Jon Phillips/Flickr, CC BY

La compréhension de la discipline juridique paraît souvent abrupte pour les non-initiés. A travers mes chroniques, je tente de démocratiser le droit du numérique, une matière qui n’est pas suffisamment enseignée et qui fait l’objet de recherches à mon sens trop peu accessibles. L’application du RGPD rend au contraire son impact visible pour tous, citoyens, associations, entreprises de toute taille et bien sûr Etats et ce au-delà des frontières de l’Union européenne. Pour gagner la bataille de l’intelligence artificielle, le droit du numérique devra de plus en plus s’imprégner d’autres disciplines en particulier l’informatique et la psychologie cognitive. Logique, probabilité, perception, raisonnement, apprentissage et action, tels sont les ressorts qui serviront de dénominateurs communs.

Le juriste augmenté

Beaucoup de professionnels du droit souffrent d’une réputation d’empêcheurs de tourner en rond et, à l’exception des sociétés dotées de l’expertise nécessaire, ils sont encore trop souvent sollicités en fin de montage du projet, voire pire au stade ultime : celui du contentieux. Aujourd’hui, les technologies pour le droit ( LegalTech ) ciblent à 65% les avocats et les grandes entreprises. Contrats intelligents (smart contracts basés sur la chaîne de blocs), échange sécurisé de documents, applications mobiles pour l’accès aux décisions de justice ou la relation clients, analyses (données, contrats…), aides à la décision de justice, chatbot et robots juridiques, mise en situation avec un Legal Data Hacker tout est fait pour augmenter les professionnels du droit sur ce segment.

Les chatbots investissent nos sociétés. Danalif/Wikimedia, CC BY-SA

L’hypothèse d’un tribunal automatique de justice prédictive questionne le futur de la justice. Ici encore, c’est la compréhension de la discipline, celle de la règle de droit, qui permettra de trouver le juste équilibre entre technologies et besoins de la société, en l’occurrence écoute des parties et intelligibilité de la décision rendue. Consciente des enjeux des innovations technologiques dans le fonctionnement de la justice civile, la commission des lois du Sénat a organisé un forum sur les technologies du droit le 18 juin afin d’alimenter sa réflexion sur la réforme de la justice. Le Conseil constitutionnel a d'ailleurs fermé la porte à une justice automatisée dans sa récente décision relative à la Loi relative à la protection des données personnelles.

Talon d’Achille des technologies du droit : la formation, seulement 10% de ces initiatives s’adressent aux étudiants en droit. Comment y remédier pour remporter la course de l’intelligence artificielle ?

L’augmentation du droit

A ce jour, il n’existe que trop peu de formations sur le droit du numérique, qu’elles soient destinées aux étudiants en droit ou à ceux des grandes écoles. Elles sont accessibles au niveau du Master 2 (finalité professionnelle). Tel est mon cas puisque j’enseigne le droit du numérique en 2ème année en ESC sous la forme d’une spécialisation (27h) et dans le cadre du Master Big Data (18h) où mon audience est celle d’ingénieurs. Cet enseignement est construit sur les enjeux du numérique en entreprise, du point de vue du manager, tels que : la protection des données à caractère personnel, leur transfert à l’étranger (RGPD, Cloud), l’e-commerce (conditions générales de vente et politiques de confidentialité, avec un focus sur l’e-marketing), les applications mobiles, la cybersécurité, les ressources humaines, le droit des robots, la chaîne de blocs, le big data et la santé (en raison de mon appétence sur le sujet résultant de mes vies antérieures de lobbyiste et dans le secteur de la santé connectée). Les méthodes d’enseignement sont multiples : classe inversée, étude de cas sous forme de BD (« Pokémon Go ! ou la chasse aux données personnelles des joueurs »), facilitation graphique et prochainement SPOC et design thinking.

Or, dès lors que l’informatique irrigue tous les champs du droit, toute matière juridique devrait intégrer sa propre dimension numérique. Plus précisément, la justice prédictive sera intégrée à l’enseignement des institutions judiciaires, les contrats intelligents au droit des contrats (toutes deux enseignées en première année), etc, etc…

La dissémination des différentes composantes du droit du numérique nécessite donc de réfléchir chaque matière du droit au sens étymologique du terme : penser mûrement, et plus d’une fois à quelque chose. Or, pour le moment cette réflexion qui est certainement menée (par moi en tout cas et j’espère par d’autres ! postez vos commentaires…) peine à porter ses fruits. Le premier obstacle est encore le temps : plaider pour la distillation du droit du numérique dès la première année et jusqu’au bout du cursus implique de modifier tous ces cursus ! Le deuxième obstacle est d’ordre humain : les enseignants actuellement en poste n’ont par définition pas reçu de formation sur cette matière : comment alors garantir le niveau d’excellence requis ?

A ceci s’ajoute une troisième difficulté : notre sujet par essence universel, repose sur des instruments juridiques adoptés non seulement au niveau national, mais aussi par l’Union européenne, voire des instances mondiales. Or, les formations initiales des juristes font obstacle à cette transversalité: le droit européen et le droit international certes présents dans de nombreux cursus universitaires restent axés sur le « général » et non sur des spécialisations. Par exemple, le droit des contrats est enseigné en première année, et le droit des contrats internationaux en fin de cursus.

Surtout, s’initier à l’informatique est un préalable pour comprendre l’objet du droit du numérique, mais cette dimension est soit ignorée des lieux de formation, soit présentée comme facultative ! Bien au contraire, le droit du numérique doit passer par une acquisition préalable des piliers de l’informatique : données, algorithmes, langages, machines et bugs.

« L’hyperpuissance de l’informatique », G. Berry, Collège de France et séminaire donné par Yann Le Cun au Collège de France)

Le juriste à la rencontre de l’informaticien

Cette immersion dans la discipline informatique est rendue nécessaire par la multiplication des applications et scénarios offerts par les nouvelles technologies : impression 3D de matière plastique, métaux et un jour de cellules, informatique affective, recours massif aux empruntes biométriques (reconnaissance digitale, vocale, faciale, rétinienne, veineuse ou de la signature…), pilotage d’un exosquelette par le cerveau.

Mais qu’en sera-t-il de votre intimité lorsque le robot humanoïde de la famille discutera avec celui du voisin ? Pourquoi les normes de sécurité pour les véhicules connectés ne sont-elles pas d’un niveau d’exigence comparable à celles utilisées pour le transport aérien ou ferroviaire ? Le mot smart ou intelligent ne signifierait-il pas plutôt vulnérable aux attaques ?

Il semble que la course aux parts de marché, aux levées de fonds en crypto-monnaies et prises de contrôle inversées, visions plutôt courtermistes, guident l’industrie. Qu’en est-il de la sécurité des produits et services et du service rendu aux clients que nous sommes ? Pourtant ces bugs, ces défauts de sécurité et le manque de transparence sur les algorithmes sont bien à l’origine de dommages pour les entreprises en termes de préjudices économiques et de réputation, et pour les personnes qu’ils soient physiques ou matériels. A la volée, on retiendra : le bug qui mit en échec le lancement d’Ariane 5 en 1996, l’autopilote « assassin » de Tesla, l’utilisation d’un système d’exploitation périmé qui permit au bug Petya de faire tant de ravages au National Health Service, ou encore le piratage par ultrason de votre assistant numérique préféré qui ensuite contrôle tout dans votre maison si intelligente : thermostat, volets roulants, porte, portail, GPS… et voilà votre magnifique voiture qui prend le large sans vous ! Vraiment ces machines ! Elles font bêtement et méchamment tout ce qu’on leur demande…

Redéfinition des responsabilités

Parmi les chantiers ouverts par l’explosion des nouvelles technologies se trouve donc inévitablement celui de la redéfinition des responsabilités engagées concernant des produits intégrant une part d’informatique de plus en plus grande. Comment allouer la responsabilité entre les sous-traitants, les programmateurs informatiques, les intégrateurs, les prestataires de services, les vendeurs de ces produits, leurs propriétaires, les usagers ou les bénéficiaires ? Voire à l’IA elle-même comme certains le fantasment ? Quelle est la valeur d’une décision automatisée ?

Ces clarifications permettront de renforcer la confiance des usagers et offriront un environnement juridique plus sûr pour les entreprises afin qu’elles se déploient. Elles pourraient aboutir au remplacement de la directive 85/374/CEE sur la responsabilité des produits défectueux par un règlement, dont le RGPD a montré les avantages multiples pour les individus et le marché : une seule et même norme serait appliquée dans le territoire de l’Union européenne et des droits identiques pour tous notamment en termes d’indemnisation. Et c'est seulement la partie émergée de l'iceberg du droit du numérique grâce à la créativité des informaticiens!