Un policier patrouille dans un quartier de Johannesbourg, que Vumacam veut intégralement couvrir de caméras automatisées. | Marco Longari / AFP
Un policier patrouille dans un quartier de Johannesbourg, que Vumacam veut intégralement couvrir de caméras automatisées. | Marco Longari / AFP

En Afrique du Sud, le nouvel apartheid de la surveillance automatisée

Dans un pays fracturé, Vumacam installe un angoissant empire sécuritaire que l'IA risque de faire dériver vers des ségrégations plus grandes encore.

Dressé par Michael Kwet dans Vice, le portrait de l'entreprise sud-africaine Vumacam fait probablement verdir de jalousie les cadres de Ring, la pourtant très dystopique et décriée filiale d'Amazon dédiée à la surveillance.

Bien plus encore qu'en Amérique, le crime est l'enfer endémique d'une nation aux fractures sociales et raciales abyssales: entre avril 2018 et mars 2019, 21.022 meurtres ont été recensés en Afrique du Sud. En 2017, le taux d'homicide y était de 35,9 pour 100.000 habitant·es, contre 5,3 aux États-Unis et 1,3 en France.

Caméras intelligentes

Bien que ce taux ait été divisé par deux depuis la fin de l'apartheid en 1994, la peur de la violence, elle, ne cesse de croître: un terreau idéal pour les compagnies de sécurité privée.

En Afrique du Sud, celles-ci emploient 500.000 personnes, plus que la police et l'armée réunies. Sont généralement monitorées les banlieues résidentielles blanches plus ou moins aisées, les bâtiments publics, les parkings, les centres commerciaux ou les écoles.

Jusqu'ici, les systèmes de surveillance étaient rudimentaires. Les flux des des caméras basse définition installées étaient redirigés vers des centres aux murs tapissés d'écrans, si nombreux que la supervision ne pouvait être que partielle.

Interviennent alors Ricky Croock et l'entreprise qu'il a fondée, Vumacam. Son idée est brillante mais machiavélique: fournir aux quartiers à la fois un internet très haut débit et un réseau de caméras dites «intelligentes», l'un ne pouvant aller sans l'autre.

L'écosystème est animé par des logiciels (l'australien iSentry et l'israélien BriefCam) grâce auxquels Vumacam affirme être capable de détecter des comportements, individus ou véhicules suspects, de lire les plaques d'immatriculation et de transformer les flux vidéo en situations textuelles («un individu noir portant un t-shirt rouge», par exemple).

L'ensemble des images sont analysées, classifiées et transmises en temps réel vers un data center. Si la machine détecte quelque chose qu'on lui a appris à trouver inhabituel, elle alerte un opérateur humain, qui peut ensuite faire appel à la police ou aux services de sécurité.

Biais raciaux

Quartier après quartier, sans régulation ni débat, Vumacam étend son emprise. L'apparition de ses services dans une zone tend à déplacer le crime vers une autre zone non équipée: c'est ainsi que l'on crée une viralité commerciale et un empire incontournable.

Problème: on le sait désormais, et Michael Kwet en donne quelques preuves édifiantes, un tel système logiciel ne peut qu'être nourri par les biais, notamment raciaux, des personnes chargées de l'entraîner. Dans un pays où les personnes de couleur sont associées au crime, un·e Noir·e dans un quartier blanc sera automatiquement désigné·e comme une «anormalité».

Au-delà des questions de respect de la vie privée, de protection des données personnelles et de leur accessibilité aux forces de police, on comprend vers quel nouvel apartheid 2.0 un tel système, dans un tel pays, peut mener.

L'enjeu paraît encore plus crucial lorsque l'on sait que Vumacam veut investir les townships: le temps des dompas, ces passeports que devaient porter les personnes non blanches pour quitter leur taudis, n'est peut-être pas derrière nous.

En ce moment

Quand la Playstation servait à étudier les trous noirs

Tech

Quand la Playstation servait à étudier les trous noirs

Peu coûteuse et adaptable, cette machine taillée pour le jeu a aussi fait des miracles en sciences.

Le «sale petit secret» d'Uber, la pollution des sacs réutilisables, des bébés génétiquement modifiés, une semaine sur korii.

Et Cætera

Le «sale petit secret» d'Uber, la pollution des sacs réutilisables, des bébés génétiquement modifiés, une semaine sur korii.

De la lecture et des surprises pour votre samedi.

La recherche des seins parfaits, la mafia meilleure que Goldman Sachs, +100% à Wall Street, une journée sur korii.

Et Cætera

La recherche des seins parfaits, la mafia meilleure que Goldman Sachs, +100% à Wall Street, une journée sur korii.

Ce qu'il fallait lire aujourd'huii.