D'abord postées sur Flickr, des photos personnelles postées par des internautes se sont retrouvées, des années plus tard, dans l'énorme base de données de reconnaissance faciale MegaFace, créée en 2015 par des professeur·es d'informatique de l'Université de Washington.
Comme le rapport le New York Times, MegaFace contient plus de 4 millions de photos de quelque 672.000 personnes, et a été téléchargée par des dizaines d'entreprises pour former une nouvelle génération d'algorithmes d'identification faciale, utilisés pour suivre les manifestant·es, surveiller les terroristes et, plus généralement, espionner la population.
En 2005, Dominique Allman Papa, originaire de l'Illinois, a importé des photos de ses deux enfants sur Flickr. Des années plus tard, les visages de sa progéniture se sont retrouvés sur MegaFace.
«C'est dégoûtant et ça me met mal à l'aise, a confié l'un des enfants de Dominique, qui a maintenant 19 ans. J'aurais aimé qu'ils me demandent d'abord si je voulais en faire partie. Je pense que l'intelligence artificielle est cool et je veux qu'elle soit plus intelligente, mais en général, on demande aux gens de participer à la recherche.»
Selon la loi, il n'est pas nécessaire de demander la permission de la plupart des Américain·es présent·es dans la base de données. L'Illinois fait exception: en 2008, l'État a adopté un texte interdisant strictement aux entités privées de recueillir, capturer, acheter ou obtenir par tout autre moyen les données biométriques d'une personne sans son consentement.
Depuis 2015, plus de 200 actions collectives contre l'utilisation abusive de la biométrie des résident·es ont été intentées en Illinois.
Opacité et surveillance
L'Université de Washington a organisé en 2015 et 2016 le «MegaFace Challenge», invitant les groupes travaillant sur la reconnaissance faciale à utiliser la base de données pour tester le bon fonctionnement de leurs algorithmes.
Plus de 100 organisations y ont participé, dont Google, le Chinois Tencent, SenseTime et NtechLab. Certaines de ces entreprises ont été critiquées pour la manière dont leurs client·es ont ensuite utilisé leurs algorithmes
Au début de la technologie de reconnaissance faciale dans les années 1990, les universités développaient leurs algorithmes en photographiant des étudiant·es bénévoles, avec leur consentement.
La recherche s'est tournée depuis vers d'autres méthodes subreptices pour recueillir encore plus de visages, en puisant dans les caméras de surveillance des espaces publics, des campus, des cafés et en téléchargeant des photos postées en ligne.
Selon l'artiste Adam Harvey, il existerait actuellement plus de 200 bases de données, contenant des dizaines de millions de photos, d'environ un million de personnes. L'opacité d'un tel système peut légitimement poser question.
