Difficile d'ignorer, en découvrant les avertissements quotidiens sur la récupération et l'exploitation de nos données personnelles par les géants du web, que ces aspirateurs à data en savent beaucoup plus sur nous que ce que nous voulons bien leur fournir. Ce que l’on sait moins, en revanche, c'est que l'une des causes de ces abus réside dans le décalage entre notre identité numérique et ce que l'on poste réellement sur le réseau –qui ne représente que la partie émergée de l'iceberg des données qui constituent notre profil numérique.
Ce que l’on choisit de partager sur le net n’est en fait que la première strate de ce profil, explique la Panoptykon Foundation, une ONG polonaise de défense des libertés en ligne, dans un article pour Quartz. L’essentiel du profil en question est en fait bâti autour d’interprétations de cette première strate –interprétations sur lesquelles nous n'avons que peu de prise, voire pas de prise du tout.
Un internaute, c'est comme un oignon
Cette première strate est composée de tout ce que l’on poste de manière volontaire et pro-active sur internet. Nos statuts publics, noms, dates de naissance, genres, messages privés, likes, les demandes d’amis que l’on accepte, celles que l’on refuse, notre adresse, etc.
À cette couche s’ajoutent toutes les informations que l’on fournit à l'insu de notre plein gré au réseau, et à celles et ceux qui en recueillent les données. Les plateformes observent constamment notre comportement en ligne: localisation, vitesse d’écriture, quels contenus retiennent notre attention, lesquels nous ignorons, notre nombre d’appareils connectés et toute autre information enregistrable que l'on puisse imaginer.
Il est déjà plus difficile, beaucoup plus difficile, de contrôler notre influence sur cette seconde strate. La troisième et dernière couche, elle, est totalement hors de notre portée: elle est composée des interprétations que divers algorithmes font des deux premières.
Ainsi, si vous postez une photo de bébé, un algorithme pourra penser que vous venez d’accoucher. Si vous envoyez beaucoup de messages à une personne que vous ne connaissiez pas jusqu’il y a peu de temps, il pourrait penser que vous êtes en couple. Un graphe plus explicite est disponible ci-dessous:
Bureaucratie publicitaire
La publicité peut être comprise comme la création d'une illusion de besoin dans le but de nous pousser à consommer. Pour ce faire, elle met tout en œuvre afin de comprendre notre fonctionnement intime en bâtissant un profil complet pour chaque individu, profil fondé sur des extrapolations élaborées à partir des éléments qu’elle sait (de source sûre, donc).
Si ces généralisations se révèlent inexactes, rien de grave: une erreur ne représente de toute façon qu’une goutte dans l'océan du web. Si Amazon essaye de vous vendre des couches alors que c’est votre sœur qui vient d’avoir un enfant, peu lui importe: la société peut encore compter sur des millions d’autres clientes et clients pour exercer son pouvoir de persuasion.
Ces inexactitudes ne posent pas plus de problème à l’internaute, tant qu'elles ne débordent pas du cadre de la publicité. Les spéculations erronées effectuées par ces algorithmes peuvent en revanche avoir des conséquences bien plus graves si elles conditionnent, par exemple, un prêt à la banque ou une embauche. Plus encore quand on sait que ces obscures formules informatisées ont une fâcheuse tendance à imiter les pratiques discriminatoires humaines.
Surveillance approximative
Pire: l'idée qu'un algorithme se fait de vous peut, comme en Chine, diriger la manière dont vous traite votre gouvernement. Ce n'est plus l'individu qui est jugé mais son double approximatif, imaginé par une machine.
Plus proche de nous, on peut imaginer les ravages d'une telle bureaucratie automatisée, couplée par exemple à la loi «anticasseurs» en discussion au Parlement, qui prévoit de pouvoir retirer administrativement le droit de manifester à une personne qui «entre en relation de manière régulière avec des individus incitant, facilitant ou participant [...] à une menace d’une particulière gravité pour l’ordre public».
