Gouvernance d’entreprise : de l’économie collaborative au gouvernement algorithmique des plateformes

Big data : ne pas surestimer la neutralité des calculs… Ils conduisent quelque part.

Ce texte résume l’intervention réalisée dans le cadre de la Conférence Internationale de Gouvernance CIG 2016 à l’Université de Montpellier : Gouvernance et gouvernementalité à l’heure du big data : quels enjeux pour les entreprises ?

Avec le développement de l’économie collaborative, ou d’économie on-demand, le modèle de plateforme prend un nouvel élan. On l’a découvert avec les plateformes-produits, il s’est conforté avec les marketplaces, il s’épanouit avec les réseaux sociaux. Désormais il règle les échanges de services et le prêt des biens. Une grande partie des 150 licornes (start-up valant plus d’un milliard de dollars) est constituée par des plateformes, on en dénombre plusieurs milliers, dont Uber, BlaBlaCar ou Ola dans le transport, Airbnb ou Booking.com pour hébergement à courte durée, Oscaro, Lending Club ou Indiegogo dans le crowdfunding, Amazon, Alibaba pour les places de marché, mais aussi Esty dans une version plus collaborative, Deliveroo ou Hero delivery dans la logistique du dernier kilomètre, Fiverr et Taskrabbit pour les services à domicile.

Du crowdsourcing et des algorithmes

Le propre des plateformes réside dans deux éléments. Le premier est une généralisation du crowdsourcing qui, ouvrant très largement l’approvisionnement en actifs productifs, en travail et en consommations intermédiaires, donne une place importante à des acteurs que l’on peut qualifier d’amateurs. Le second est du recours intensif aux algorithmes pour assurer la coordination des activités à une échelle très importante (des centaines de millions d’individus) et très fine du point de vue de l’espace et du temps. La combinaison de ces deux éléments conduit à un modèle d’organisation d’un type nouveau, fondé sur la maîtrise des algorithmes qui pose des questions de gouvernance, d’autant plus fortes que les machines sont faillibles.

Le moteur de croissance des plateformes s’analyse au travers de la combinaison de plusieurs mécanismes économiques. Le premier est celui du crowdsourcing et il se révèle dans la capacité à mobiliser des actifs sous-utilisés, du travail parfois non rémunéré et de l’information et des idées partagées. Il engendre un second mécanisme de la longue traîne, plus justement décrit par la notion d’économie de la diversité. Le troisième est l’interaction positive entre les populations qui constituent les différents versants de marché : l’attractivité de la plateforme sur le versant client est d’autant plus grande que la diversité des offres est forte et réciproquement.

Elle est amplifiée par la maîtrise des capacités d’appariement (matching markets) qui permettent de résoudre la faiblesse d’une offre trop large et trop diverse pour les capacités cognitives des demandeurs, par le biais de score d’appariement (comme sur les plateformes de rencontre) et de moteurs de recommandation (comme dans le cas les places de marchés). L’ensemble produit des externalités de réseaux et de standard qui soutiennent la politique de crowdsourcing.

Gouvernementalité algorithmique

L’analyse économique permet de rendre compte a posteriori des succès des plateformes, mais dit peu de la manière dont ils sont menés.

C’est dans la manière dont les plateformes gouvernent leurs populations qu’on peut trouver une réponse. Avec le concept de gouvernementalité de Michel Foucault, définit rapidement comme l’influence sur les conduites qui transforme les populations en ressources, un cadre d’analyse cohérent peut être formulé. La gouvernementalité se manifeste par trois grands éléments : l’architecture des plateformes qui capacite ou restreint l’action de ses membres et des populations ; une capacité normative et de surveillance -une police ; un dispositif incitatif qui stimule l’activité des acteurs individuels et mobilise les foules.

La spécificité de ces politiques est d’être largement algorithmique, se nourrissant d’un flux de données important (le big data) qui à la fois permet de produire la connaissance nécessaire et la mise en œuvre des politiques dans le flux des microdécisions prises par l’organisation et les individus. Un mécanisme comme le surge pricing de Uber en est un exemple remarquable : à l’échelle de quelques minutes et d’un quartier, Uber peut faire varier les tarifs en fonction de l’offre de VTC et de la demande, dans le but principal de limiter l’attente à moins de cinq minutes.

Le calcul n’est pas neutre

On a tendance à surestimer leur efficacité et leur neutralité. Ils produisent des effets de dispersion des prix, de polarisation des opinions, de discrimination sociale. Autant d’effets que leurs concepteurs n’ont pas envisagés. C’est le fruit d’une forte dépendance aux données : les paramètres des algorithmes dépendent des données qu’ils traitent, et certains groupes d’acteurs peuvent les troubler. Le calcul qu’ils produisent n’est pas neutre, son résultat est souvent performatif et les populations qui en sont la cible s’y adaptent par une sorte de social computing.

Les effets de ranking en sont un exemple, le classement renforçant la performance. Des effets inattendus, parfois néfastes, sont observés : extrême variance des prix de marchés, biais de sélection, polarisation des opinions, ségrégation sociale. C’est ce qu’on peut appeler la politique des algorithmes et qu’on définit comme l’effet résiduel et non intentionnel de la gouvernementalité.

Les plateformes font ainsi naître un double risque : celui d’une interférence dans les libertés et celui des externalités sociales liées à la construction même des algorithmes. Cette analyse conduit à s’interroger sur la gouvernance des plateformes et les mécanismes qui permettent de gouverner le gouvernement des plateformes. Quelle politique de confidentialité des données personnelles ? Quel degré de transparence des algorithmes ? Quel degré de participation des usagers à la conception et aux pilotages de ces modèles ? Quel degré de régulation par la puissance publique ?

Avec leur surgissement et leur déploiement planétaire, ces questions deviennent clés. Elle justifie que l’idée de redevabilité algorithmique soit de plus en plus élaborée, et surtout mise en œuvre.

Référence des travaux présentés : C. Benavent (2016) « Plateformes : sites collaboratifs, marketplaces, réseaux sociaux… Comment ils influencent nos choix », Fyp.

Facts matter. Your tax-deductible donation helps deliver fact-based journalism.