L'une des variables clés dans l'utilisation de logiciels de reconnaissance faciale est la base de données dans laquelle l'algorithme peut aller fouiller afin d'identifier un visage. L'un des dangers des réseaux sociaux et de la big data est qu'internet, où des milliards de personnes postent des photos d'elles-mêmes de leur plein gré, puisse être utilisé comme une base de données universelle.
Or, c'est exactement ce que fait Clearview, une start-up créée en 2016. Pour constituer sa base de données, l'entreprise a consciencieusement récupéré toutes les photos qu'elle pouvait, en passant au crible Facebook, Twitter, YouTube, Instagram, des sites de recrutement, etc.
Lorsqu'une photo est entrée dans l'application, le logiciel propose une liste de visages similaires, ainsi que le lien vers la page web où il l'a trouvée. La start-up affirme détenir plus de trois milliards de photographies; dans un document promotionnel, elle se vante même d'être bien plus exhaustive que la base de données du FBI, qui ne concentre «que» 411 millions de visages.
Tous et toutes fichées
L'entreprise a vite compris que ses meilleurs clients pouvaient être les services de police des États-Unis, charmés par la rapidité avec laquelle le logiciel leur permettait de récupérer l'identité d'un·e suspect·e, même inconnu·e des fichiers policiers et judiciaires.
Grâce à l'important carnet d'adresses de Richard Schwartz, la solution proposée par la discrète petite firme a été adoptée par 600 départements de police, selon ses propres dires.
Son logiciel n'a pas encore été étudié par un quelconque organisme indépendant, si bien qu'il est utilisé dans des affaires criminelles sans que l'on ne connaisse précisément son taux d'erreur ou ses limites. Les personnes à la peau foncée, notamment, sont souvent mésidentifiées par ce type de logiciel.
De plus, le contrôle que Clearview a sur son application semble illimité, y compris lorsqu'une agence de police en fait usage. Après qu'un journaliste du New York Times qui enquêtait sur la start-up a demandé à un policier de passer sa photo dans l'algorithme, l'agent en question a reçu un coup de téléphone lui demandant s'il parlait aux médias.
Cela indique que l'entreprise peut consulter les photos prises par la police, des images potentiellement sensibles, et savoir qui est visé par une enquête.
Tout ceci est-il légal? Pas entièrement, car Clearview semble violer les conditions d'utilisation de Facebook, qui interdit de collecter les photos téléversées sur sa plateforme. Le réseau social affirme enquêter pour savoir si Clearview enfreint ses règlements.
Le créateur du logiciel, l'Australien Hoan Ton-That, ne semble pas inquiet outre mesure. Il explique au NYT que «tout le monde le fait, et Facebook le sait». L'un des investisseurs de sa start-up est Peter Thiel, également à la tête de la très contestée Palantir et qui fait aujourd'hui partie des sept personnes siégeant à son comité d'administration.
