L'idée était bonne, son exécution a été lamentable. | Nik Shuliahin via Unsplash
L'idée était bonne, son exécution a été lamentable. | Nik Shuliahin via Unsplash

À New York, un zéro pointé pour la police des algorithmes

Bill de Blasio voulait que la ville dont il est maire soit en pointe en matière de transparence. C'est raté.

Depuis déjà quelques années, les algorithmes ont fait leur entrée dans nos villes. L'outil est prisé par les municipalités, mais n'est pas sans risque: leur tendance à renforcer les discriminations préexistantes est régulièrement pointée du doigt.

À New York City, les algorithmes sont utilisés pour déterminer les cartes scolaires, les logements à inspecter ou les quartiers nécessitant une surveillance policière accrue.

En 2017, face à leur croissance exponentielle, la mairie de New York a voté une loi instaurant la création d'un groupe d'expert·es dédié à la surveillance de ces algorithmes –une première aux États-Unis.

Problème de définition

Si la démarche a été chaleureusement accueillie à l'époque, deux ans plus tard, l'heure est aux accusations. L'action de la police des algorithmes manquerait de transparence et ne serait tout simplement pas efficace. Beaucoup dénoncent même «un pur coup de com'».

Lors d'un conseil municipal qui s'est tenu au début du mois d'avril, les responsables ont reconnu n'avoir pas encore réussi à donner une définition claire et précise de ce que sont les systèmes automatisés (automated decision systems en anglais), ces outils algorithmiques qu'ils sont chargés d'examiner.

«Ça a pris beaucoup plus de temps que prévu», a admis un fonctionnaire. La cause? Le texte de loi aurait été rédigé de manière si globale que même les calculatrices et les tableurs Excel pourraient être soumis à examen.

Défaut d'information du public

Sans objet d'étude clairement défini, le groupe de travail serait donc inoffensif et ne fournirait que des recommandations générales.

Mais les critiques reprochent également à la mairie de ne pas avoir sensibilisé le public et d'avoir maintenu les citoyen·nes hors du processus, qui sont pourtant directement touché·es par ces algorithmes.

Après ce feu de critiques, une première réunion publique devrait rapidement se tenir –un signe encourageant. Pour autant, le vœu du maire Bill de Blasio de faire de New York une cité pionnière en matière de politique technologique semble encore loin de se réaliser.

Peut-être cette démarche quelque peu chaotique donnera-t-elle en revanche des idées dans d'autres métropoles où les algorithmes organisent une partie de la vie de la cité.

En ce moment

De terrifiants missiles, Big Brother dans votre quartier, des algorithmes stupides, aujourd'hui sur korii.

Et Cætera

De terrifiants missiles, Big Brother dans votre quartier, des algorithmes stupides, aujourd'hui sur korii.

(Et plein d'autres choses aussii.)

Les machines sont stupides, on a 1.213 exemples pour le prouver

Tech

Les machines sont stupides, on a 1.213 exemples pour le prouver

Des chercheurs ont conçu un questionnaire auquel les êtres humains sont certains de gagner. Pour le moment.

Modifier le génome des plantes pour sauver l'agriculture

Tech

Modifier le génome des plantes pour sauver l'agriculture

Les outils Crispr pourraient théoriquement rendre les sols plus productifs et moins polluants.