La décision de Facebook arrive dans un contexte où les protestations contre le racisme et les violences policières se poursuivent quotidiennement dans les villes américaines suite à la mort de George Floyd fin mai.
Facebook et Instagram vont rechercher des biais raciaux dans leurs algorithmes
Facebook forme de nouvelles équipes internes qui se consacrent à l’étude de son principal réseau social et d’Instagram pour y déceler les discriminations raciales, en particulier pour savoir si ses algorithmes formés à l’aide de l’intelligence artificielle ont un effet négatif sur les groupes noirs, hispaniques et autres groupes sous-représentés.
L’équipe sera « chargée de veiller à ce que le développement de produits justes et équitables soit présent dans tout ce que nous faisons », explique un porte-parole de Facebook. « Nous continuerons à travailler en étroite collaboration avec l’équipe d’intelligence artificielle responsable de Facebook pour nous assurer que nous examinons les biais potentiels sur nos plateformes respectives ».
La nouvelle équipe d’équité – comme elle est appelée au sein d’Instagram (une équipe similaire est en cours de formation pour étudier l’application principale et le site web de Facebook) – marque un départ pour l’entreprise, qui a historiquement résisté aux efforts déployés au sein de l’entreprise pour étudier les effets des préjugés raciaux.
Facebook entretient un rapport compliqué avec les questions d’égalité raciale
Facebook est en train de subir la phase finale d’un boycott publicitaire d’un mois dans le cadre du mouvement #StopHateForProfit organisé par la Ligue anti-diffamation, Color of Change, la NAACP et d’autres groupes de défense des droits civiques.
Le boycott a inclus de gros clients comme Coca-Cola, Disney, McDonald’s, Starbucks et Walmart, parmi des dizaines d’autres. Le PDG de Facebook, Mark Zuckerberg a été qualifié de « décevant » et accusé d’avoir offert des excuses superficielles lors de sa rencontre avec les organisateurs du boycott au début du mois.
Le mois dernier, le PDG d’Instagram, Adam Mosseri, s’est engagé à revoir la manière dont la société tente de résoudre les problèmes auxquels les Noirs et les autres groupes sous-représentés sont confrontés sur la plateforme.
« Cela commence par la prise en compte des expériences et des défis auxquels sont confrontés les groupes sous-représentés, comme notre communauté noire, lorsqu’ils utilisent Instagram« , a écrit M.
Mosseri. « Nous avons fait beaucoup de travail pour mieux comprendre l’impact de notre plateforme sur les différents groupes, et cela nous a aidés à arriver là où nous sommes aujourd’hui. Mais je pense qu’il reste encore beaucoup à faire dans certains domaines clés, qui s’inscrivent dans le cadre de nos engagements plus larges en tant qu’entreprise ».
M. Mosseri a spécifiquement cité le harcèlement, la vérification des comptes, la distribution et les biais algorithmiques comme des domaines qu’Instagram doit améliorer, selon lui, pour mieux servir les utilisateurs noirs.
1/ We stand in solidarity with the Black community. But that’s not enough. Words are not enough. That’s why we’re committed to looking at the ways our policies, tools, and processes impact Black people and other underrepresented groups on Instagram.https://t.co/rVM3E0rFHA
ADVERTISEMENT — Adam Mosseri ? (@mosseri) June 15, 2020
À lire aussi :
Discrimination : Jean Castex est victime de glottophobie depuis sa nomination à Matignon