Le système de «crédit social» chinois peut provoquer des sueurs froides, mais au fond de nous, on ne peut s’empêcher de se dire qu’un tel système digne de Big Brother ne peut exister que dans une dictature comme la Chine.
Pourtant, l’utilisation par la police des systèmes de surveillance généralisée n’a pas besoin d’attendre l’installation d’un pouvoir totalitaire. Il suffit de regarder ce qu’il se passe au Canada.
Dans certaines provinces, dont l’Ontario et le Saskatchewan, un système appelé «Hub», permet de créer une base de données des «comportements négatifs», à l’encontre des autres ou de soi-même. Elle contient des informations pouvant aller de problèmes de santé mentale, à l’usage de drogues en passant par des antécédents de violence ou une «attitude anti-sociale».
Toutes ces informations sont entrées dans la base de données par la police mais aussi par des travailleurs et travailleuses sociales, des médecins, des éducateurs et éducatrices, des écoles etc. Elles sont ensuite partagées entre les personnes de toutes ces agences civiles et policières.
Lorsque ces informations sont entrées, un algorithme les analyse et évalue le potentiel de risques d’une personne ou d’une communauté. Ces données peuvent concerner n’importe qui, y compris des mineurs. Les enfants de 12 à 17 ans représentent même la tranche d'âge la plus représentée sur les Hub.
Pas de consentement nécéssaire
Normalement, les informations contenues dans la database ne précisent pas directement l’identité de la personne. Mais des experts interrogés par Motherboard estiment que rendre les données totalement anonymes est quasiment impossible.
Dans l’Ontario, l’IPC, un organisme d’État de défense de la vie privée a publié des règles précisant aussi que l’ajout d’information doit être fait avec le consentement des personnes fichées.
Mais, toujours selon Motherboard, une note interne précisait que les utilisateurs et utilisatrices du hub «ne sont pas obligés d’appliquer les pratiques recommandées par le document de l’IPC», portant ainsi atteinte à la vie privée des citoyens selon Brian Beamish, le directeur l’IPC.
Pre-crime
Le but de ces «Risk-driven Tracking Database» (RTD) est de pouvoir conduire des interventions sur les personnes jugées trop à risque. Si l’objectif est de leur apporter de l'aide, de les orienter vers des personnes pouvant les aider et de s’assurer que tout va bien, les interventions peuvent aussi s’approcher d’une méthode de «pre-crime».
Au moins une de ces interventions a débouché sur un internement forcé en hôpital psychiatrique et une autre par un emprisonnement. De plus, explique Tamir Israel, un avocat membre du CIPPIC, une organisation spécialisée dans les droits en ligne, les RTD disposent d’«indicateurs géographiques» qui peuvent classer les lieux selon leur taux de crime.
Cela pourrait déterminer le nombre de policiers dans un quartier mais aussi les influencer et les rendre plus suspicieux ou agressifs. Comme certains critères de risques sont très flous («comportement négatif») les biais racistes des médecins, écoles, ou travailleurs sociaux par exemple pourraient être dévastateurs.
