Des chaînes d'information en continu américaines jusqu’aux groupes Facebook des «gilets jaunes», les fake news sont dénoncées un peu partout comme l’une des principales menaces qui planent sur un débat démocratique sain.
Toutefois, ces fameuses fake news recouvrent un large éventail de contenus très différents. Sites «parodiques» volontairement trompeurs, simple rumeurs amplifiées par les réseaux sociaux, lobbys un peu trop biaisés en leur propre faveur, militantes ou militants n’hésitant pas à manipuler la vérité, internaute lambda faisant une erreur honnête ou services russes organisés.
Préparez-vous d'ores et déjà à bien pire: ces fausses informations, même les mieux organisées et les plus convaincantes qui soient, ne sont qu’un avant-goût de ce qui reste à venir. Les développements rapides de l’intelligence artificielle (IA) et du machine learning pourraient ouvrir la voie à des malfaisances en ligne d’une envergure inédite.
Du porno à la manipulation politique
Le procédé qui inquiète le plus est celui du deep fake –une technique qui permet à un algorithme de superposer un visage sur une vidéo pré-existante et qui a fait couler beaucoup d’encre lorsqu’un utilisateur de Reddit a commencé à mettre le visages d’actrices célèbres sur le corps d’actrices pornographiques.
La retouche vidéo n’est pas une nouveauté, mais elle nécessitait autrefois des compétences et des moyens inaccessibles pour la plupart des internautes. Des algorithmes peuvent désormais faire tout le travail à leur place. Le scandale de la Ligue du LOL a démontré comment des montages pornographiques réalisés avec les outils rudimentaires de l’époque pouvaient être destructeurs –on ne peut qu’imaginer l’effet plus vrai que nature issu des manipulations d’un deep fake.
Le potentiel nuisible de cette technique avait été mis en lumière par une vidéo de Buzzfeed News montrant un discours très réaliste de Barack Obama –en réalité une vidéo retouchée et doublée par le comédien Jordan Peele. Un tour de passe-passe réalisé sur FakeApp, une application gratuite et facile d’utilisation.
Everybody's fake news
Toutefois, la vidéo n’est que l’un des médias que l’IA est à même de trafiquer. Mis en ligne récemment, le site thispersondoesnotexist.com (cette personne n'existe pas.com) génère des visages créés automatiquement par ordinateur. Si des erreurs se glissent dans certaines images, la plupart d'entre elles sont bluffantes d'exactitude.
Une technique fréquente utilisée dans les arnaques en ligne consiste à créer un faux profil sur une plateforme en utilisant des photos trouvées sur internet. La plupart du temps, une recherche inversée permet de retrouver la photo originale. Dans le cas d'un visage créé de toutes pièces, il devient difficile de le prouver.
Souvent évoqués au sujet de l’automatisation du journalisme, les bot créateurs de texte ont aussi un fort potentiel de nuisance. OpenAI, un groupe de recherche en IA à but non lucratif présidé par Elon Musk, s’inquiète de la qualité des bots de texte.
En effet, un algorithme assez perfectionné permettrait de produire «des textes trompeurs, biaisés ou insultants à grande échelle», comme des faux articles de presse, du spam ou des messages de phishing.
Le défi est de taille: toutes ces techniques se développent plus vite que leurs parades. Et encore, ne sont listées ici que quelques-unes de leurs applications potentielles. Il est urgent de mettre en place des méthodes sûres et efficaces afin de détecter ces contrefaçons et, surtout, d’apprendre aux internautes à ne plus jamais faire confiance à leurs yeux.
