L'idée était bonne, son exécution a été lamentable. | Nik Shuliahin via Unsplash
L'idée était bonne, son exécution a été lamentable. | Nik Shuliahin via Unsplash

À New York, un zéro pointé pour la police des algorithmes

Bill de Blasio voulait que la ville dont il est maire soit en pointe en matière de transparence. C'est raté.

Depuis déjà quelques années, les algorithmes ont fait leur entrée dans nos villes. L'outil est prisé par les municipalités, mais n'est pas sans risque: leur tendance à renforcer les discriminations préexistantes est régulièrement pointée du doigt.

À New York City, les algorithmes sont utilisés pour déterminer les cartes scolaires, les logements à inspecter ou les quartiers nécessitant une surveillance policière accrue.

En 2017, face à leur croissance exponentielle, la mairie de New York a voté une loi instaurant la création d'un groupe d'expert·es dédié à la surveillance de ces algorithmes –une première aux États-Unis.

Problème de définition

Si la démarche a été chaleureusement accueillie à l'époque, deux ans plus tard, l'heure est aux accusations. L'action de la police des algorithmes manquerait de transparence et ne serait tout simplement pas efficace. Beaucoup dénoncent même «un pur coup de com'».

Lors d'un conseil municipal qui s'est tenu au début du mois d'avril, les responsables ont reconnu n'avoir pas encore réussi à donner une définition claire et précise de ce que sont les systèmes automatisés (automated decision systems en anglais), ces outils algorithmiques qu'ils sont chargés d'examiner.

«Ça a pris beaucoup plus de temps que prévu», a admis un fonctionnaire. La cause? Le texte de loi aurait été rédigé de manière si globale que même les calculatrices et les tableurs Excel pourraient être soumis à examen.

Défaut d'information du public

Sans objet d'étude clairement défini, le groupe de travail serait donc inoffensif et ne fournirait que des recommandations générales.

Mais les critiques reprochent également à la mairie de ne pas avoir sensibilisé le public et d'avoir maintenu les citoyen·nes hors du processus, qui sont pourtant directement touché·es par ces algorithmes.

Après ce feu de critiques, une première réunion publique devrait rapidement se tenir –un signe encourageant. Pour autant, le vœu du maire Bill de Blasio de faire de New York une cité pionnière en matière de politique technologique semble encore loin de se réaliser.

Peut-être cette démarche quelque peu chaotique donnera-t-elle en revanche des idées dans d'autres métropoles où les algorithmes organisent une partie de la vie de la cité.

En ce moment

Et si la coopérative était la réponse à l’uberisation?

Biz

Et si la coopérative était la réponse à l’uberisation?

À New York, des personnes qui gagnent leur vie en faisant le ménage travaillent via une plateforme qui leur appartient mutuellement –pour 5% de leurs revenus.

Plus on connaît un algorithme, moins on lui fait confiance

Tech

Plus on connaît un algorithme, moins on lui fait confiance

Une chercheuse estime que la capacité d'échapper à la dépendance vis-à-vis des ces formules mathématiques est à l'origine d'une nouvelle fracture numérique.

La concurrence pousse Netflix à la transparence des chiffres

Biz

La concurrence pousse Netflix à la transparence des chiffres

La plateforme a fait part de sa volonté d'ouvrir ses données aux producteurs comme au public: une nouveauté de taille et un signe que la concurrence est prise très au sérieux.