D'après une équipe de recherche de l'Université Northeastern de Boston, de l'Université de Californie du Sud et de l'organisation à but non lucratif Upturn, il n'y a pas que le «typage» des publicités qui serait discriminant. L'algorithme qui sélectionne les profils sur lesquels les faire apparaître le serait tout autant, comme le rapporte Wired.
Les scientifiques ont ainsi montré que la plateforme s'adresse parfois à «un sous-groupe de l'audience initialement sélectionnée par l'annonceur» –le ministère américain du Logement a d'ailleurs récemment annoncé vouloir poursuivre l'entreprise de Mark Zuckerberg pour des pratiques publicitaires discriminatoires.
D'après Galen Sherwin, une avocate du droit des femmes qui travaille à l'Union américaine pour les libertés civiles, «le cas de Facebook illustre parfaitement comment le “machine learning” incorpore et perpétue des travers existants dans nos sociétés. Ces plateformes doivent prendre des mesures fortes et proactives afin d'enrayer le phénomène».
Les hommes dans les bois, les femmes à la caisse
Dans le cadre de cette étude, les scientifiques ont publié des annonces pour onze emplois à pourvoir en Caroline du Nord. Les offres proposaient des postes aussi divers que ceux d'infirmière, de concierge, de bûcheron ou de chauffeur de taxi, le tout proposé à une large et même audience.
L'annonce pour le poste de concierge a de fait touché une audience à 65% féminine et à 75% afro-américaine. Quant à l'activité forestière, elle concernait à 90% des hommes et à 70% des Caucasiens. L'audience ciblée par les offres de caissiers était constituée à 85% de femmes, et celles de chauffeurs de taxi à 75% d'Afro-Américains. Même topo avec les annonces immobilières. Certaines d'entre elles ont été montrées à un public composé à 85% de Caucasiens, d'autres ont ciblé une audience à 65% afro-américaine.
Perdre en efficacité, gagner en équité
Facebook n'aime pas tellement qu'on mette le nez dans ses affaires et a toujours cultivé un certain goût pour l'opacité. De son algorithme publicitaire, nous ne savons donc rien, si ce n'est qu'il a la capacité d'analyser près d'un milliard de photos par jour. «Finalement, on n'a aucune idée de ce que fait Facebook», déclare Alan Mislove, professeur en informatique à l'Université de Northeastern qui a participé à l'étude.
Alors que la pression autour de Facebook n'a jamais été aussi forte, le réseau social devra prendre des mesures s'il veut se montrer plus impartial. Peut-être faudra-t-il perdre en efficacité pour gagner en équité. Pas sûr toutefois que Facebook soit prêt à abandonner l'optimisation algorithmique qui constitue un outil précieux aux yeux de ses entreprises clientes et une colossale source de revenus.
