Après des décennies d’efforts pour accroître la représentation féminine dans les instances décisionnelles des entreprises, peu de femmes parviennent à prendre leur place.
La vague de protestations contre la réforme des retraites en France illustre aussi les biais chez politiciens qui estiment parfois faussement les électeurs plus à droite qu'ils ne le sont. Manifestation pour la défense des retraites du 31 janvier 2023.
Jeanne Menjoulet/Flickr
Une étude récente portant sur plusieurs pays européens montre que le personnel politique perçoit les électeurs et l’opinion publique en général plus à droite qu’elle ne le serait vraiment.
Lors d'une prise de décision, il est possible d'éliminer certains biais.
Afif Ramdhasuma/Shutterstock
Depuis l’école primaire jusqu’aux postes de professeures des universités, les inégalités entre femmes et hommes se creusent.
En plus de réduire l’impact des préjugés inconscients, le tirage au sort permet de rendre le processus d’évaluation des candidatures moins exigeant en temps et en ressources.
(Shutterstock)
Une grande partie du débat public sur ChatGPT se concentre sur la question du plagiat à l’école. Mais ce système soulève des enjeux bien plus importants.
Dans les points de vente, l’environnement sonore et lumineux exerce une forte influence sur l’acheteur.
Publicdomainpictures.net/Mohamed Mahmoud Hassan
Selon différents travaux de recherche, privilégier les courses en ligne ou faire ses achats dans des lieux calmes et lumineux permet au consommateur d’éviter les décisions erronées…
La recherche préclinique – celle qui précède les essais sur les humains – oriente souvent le choix des traitements potentiels à poursuivre jusqu’aux essais cliniques. Mais les tentatives de reproduction de 50 études ont révélé que les chances d’arriver aux résultats obtenus auparavant n’étaient que d’environ 50 %.
(Pexels/Artem Podrez)
Les études précliniques constituent une partie importante de la recherche biomédicale. L’incapacité à reproduire les résultats de la recherche suggère la nécessité d’améliorer la qualité des études.
Un algorithme peut se fonder sur des notes antérieurement attribuées par des humains qui risquent d’avoir des comportements discriminatoires.
Shutterstock
La réglementation européenne doit évoluer pour tenir compte des discriminations que peuvent reproduire les outils d’intelligence artificielle.
Tant qu’elle ne sera pas régulée adéquatement, l’intelligence artificielle ne peut pas être considérée comme un outil puisqu’elle renferme une vision du monde déterminante pour les liens sociaux.
(Shutterstock)
L’intelligence artificielle n’est pas un outil comme les autres. Chaque citoyen ne jouit pas également de son usage, révélant ainsi les asymétries de pouvoir qui se déploient avec cette technologie.
Au Danemark, la population reste plus favorable qu’ailleurs à un État-providence généreux en raison d’une appréciation particulière de son rôle.
Dans leur essai « Homo sapiens dans la cité », Coralie Chevallier et Mathieu Perona offrent un panorama des politiques publiques qui intègrent les biais de la rationalité humaine.
Trop peu de femmes atteignent les plus hauts échelons des organisations. Des politiques proactives des gouvernements et des autorités réglementaires sont nécessaires si l’on veut une équité.
Les algorithmes permettent de résoudre des problèmes mathématiques et informatiques.
Shubham Dhage, Unsplash
Les algorithmes ont traversé l’histoire, de l’antiquité aux GAFAM. Pour mieux comprendre ces boîtes noires et les questions que posent leurs utilisations.
Les systèmes d'intelligence artificielle peuvent contribuer à amplifier certains types de discrimination.
Shutterstock
Les systèmes d’intelligence artificielle ne sont pas neutres et reflètent les enjeux sociétaux, tels que le racisme, en plus de les amplifier.
Quand on compare les statistiques concernant deux groupes différents (par exemple deux catégories de la population : vaccinés/non vaccinés), il faut faire attention à savoir si leurs caractéristiques ne sont pas trop éloignées, pour ne pas interpréter les résultats de manière erronée.
Lucas Benjamin, Unsplash
Les paradoxes défient notre intuition, mais possèdent des explications logiques. Ici, le paradoxe de Simpson éclaircit ce qui peut paraître étrange dans les données de vaccination Covid.
Titres de médias sur les biais des algorithmes des réseaux sociaux.
Thibault Grison
De nombreux exemples de discriminations en ligne sont liés à la modération des contenus par les plates-formes et réseaux sociaux, parfois humaine, parfois automatisée.
Depuis trois décennies, les entreprises ont eu le temps de réviser leur employé idéal. Hélas, elles ne l'ont pas fait. L'homme demeure toujours le premier choix.
Shutterstock
Malgré une plus grande reconnaissance du problème par les entreprises, les biais inconscients lors de l’embauche favorisent encore et toujours les hommes.
Retrouvez les articles publiés à l’occasion de « La Grande Conversation du week-end » du samedi 17 avril 2021, intitulée « L’IA a-t-elle un genre ? ».
Nombreux sont les groupes et communautés qui demeurent invisibles au regard des technologies numériques soit parce qu’ils sont déjà socialement marginalisés ou parce que leurs besoins ne sont pas prioritaires.
(Shutterstock)
Professeure et titulaire 2020-2022 de la Chaire sur la justice sociale et l'intelligence artificielle Abeona-ENS-OBVIA, Université du Québec en Outaouais (UQO)