En mettant en commun les données de santé de plusieurs centres de soin, l’apprentissage fédéré peut améliorer les outils de diagnostique par IA mais aussi générer des biais contre les populations les moins représentées.
metamorworks/Shutterstock
Nesrine Kaaniche, Télécom SudParis – Institut Mines-Télécom e Aymen Boudguiga, Commissariat à l’énergie atomique et aux énergies alternatives (CEA)
Les IA s’imposent comme des outils de diagnostic, mais comportent souvent des biais en défaveur de certaines populations. Comment développer des IA équitables sans sacrifier la vie privée des patients ?
Les formations pour combattre les préjugés et accroître la diversité se multiplient dans les entreprises. Mais les effets réels de ces initiatives et leur efficacité sont peu évalués.
(Shutterstock)
David Crête, Université du Québec à Trois-Rivières (UQTR)
Les formations « équité, diversité et inclusion » (EDI) dans les organisations sont désormais courantes. Sont-elles vraiment efficaces ? De façon générale, non, selon la recherche sur le sujet.
D’après nos recherches, les personnes jugées les plus séduisantes sont également considérées comme les plus dignes de confiance. Pour quelles raisons ?
Les herbicides représentent actuellement 54 % de la consommation totale de pesticides en Europe.
Pixnio
Après des décennies d’efforts pour accroître la représentation féminine dans les instances décisionnelles des entreprises, peu de femmes parviennent à prendre leur place.
La vague de protestations contre la réforme des retraites en France illustre aussi les biais chez politiciens qui estiment parfois faussement les électeurs plus à droite qu'ils ne le sont. Manifestation pour la défense des retraites du 31 janvier 2023.
Jeanne Menjoulet/Flickr
Une étude récente portant sur plusieurs pays européens montre que le personnel politique perçoit les électeurs et l’opinion publique en général plus à droite qu’elle ne le serait vraiment.
Lors d'une prise de décision, il est possible d'éliminer certains biais.
Afif Ramdhasuma/Shutterstock
Depuis l’école primaire jusqu’aux postes de professeures des universités, les inégalités entre femmes et hommes se creusent.
En plus de réduire l’impact des préjugés inconscients, le tirage au sort permet de rendre le processus d’évaluation des candidatures moins exigeant en temps et en ressources.
(Shutterstock)
Une grande partie du débat public sur ChatGPT se concentre sur la question du plagiat à l’école. Mais ce système soulève des enjeux bien plus importants.
Dans les points de vente, l’environnement sonore et lumineux exerce une forte influence sur l’acheteur.
Publicdomainpictures.net/Mohamed Mahmoud Hassan
Selon différents travaux de recherche, privilégier les courses en ligne ou faire ses achats dans des lieux calmes et lumineux permet au consommateur d’éviter les décisions erronées…
La recherche préclinique – celle qui précède les essais sur les humains – oriente souvent le choix des traitements potentiels à poursuivre jusqu’aux essais cliniques. Mais les tentatives de reproduction de 50 études ont révélé que les chances d’arriver aux résultats obtenus auparavant n’étaient que d’environ 50 %.
(Pexels/Artem Podrez)
Les études précliniques constituent une partie importante de la recherche biomédicale. L’incapacité à reproduire les résultats de la recherche suggère la nécessité d’améliorer la qualité des études.
Un algorithme peut se fonder sur des notes antérieurement attribuées par des humains qui risquent d’avoir des comportements discriminatoires.
Shutterstock
La réglementation européenne doit évoluer pour tenir compte des discriminations que peuvent reproduire les outils d’intelligence artificielle.
Tant qu’elle ne sera pas régulée adéquatement, l’intelligence artificielle ne peut pas être considérée comme un outil puisqu’elle renferme une vision du monde déterminante pour les liens sociaux.
(Shutterstock)
L’intelligence artificielle n’est pas un outil comme les autres. Chaque citoyen ne jouit pas également de son usage, révélant ainsi les asymétries de pouvoir qui se déploient avec cette technologie.
Au Danemark, la population reste plus favorable qu’ailleurs à un État-providence généreux en raison d’une appréciation particulière de son rôle.
Dans leur essai « Homo sapiens dans la cité », Coralie Chevallier et Mathieu Perona offrent un panorama des politiques publiques qui intègrent les biais de la rationalité humaine.
Trop peu de femmes atteignent les plus hauts échelons des organisations. Des politiques proactives des gouvernements et des autorités réglementaires sont nécessaires si l’on veut une équité.
Les algorithmes permettent de résoudre des problèmes mathématiques et informatiques.
Shubham Dhage, Unsplash
Les algorithmes ont traversé l’histoire, de l’antiquité aux GAFAM. Pour mieux comprendre ces boîtes noires et les questions que posent leurs utilisations.
Les systèmes d'intelligence artificielle peuvent contribuer à amplifier certains types de discrimination.
Shutterstock
Les systèmes d’intelligence artificielle ne sont pas neutres et reflètent les enjeux sociétaux, tels que le racisme, en plus de les amplifier.
Quand on compare les statistiques concernant deux groupes différents (par exemple deux catégories de la population : vaccinés/non vaccinés), il faut faire attention à savoir si leurs caractéristiques ne sont pas trop éloignées, pour ne pas interpréter les résultats de manière erronée.
Lucas Benjamin, Unsplash
Les paradoxes défient notre intuition, mais possèdent des explications logiques. Ici, le paradoxe de Simpson éclaircit ce qui peut paraître étrange dans les données de vaccination Covid.
Professeure et titulaire 2020-2022 de la Chaire sur la justice sociale et l'intelligence artificielle Abeona-ENS-OBVIA, Université du Québec en Outaouais (UQO)