L'IA parvient de mieux en mieux à singer les humains, pour des résultats parfois troublants. | Frank V via Unsplash
L'IA parvient de mieux en mieux à singer les humains, pour des résultats parfois troublants. | Frank V via Unsplash

Les «deep fakes», prochain cauchemar des fact-checkers

La démocratisation de l’intelligence artificielle risque de grandement faciliter les nuisances en ligne.

Des chaînes d'information en continu américaines jusqu’aux groupes Facebook des «gilets jaunes», les fake news sont dénoncées un peu partout comme l’une des principales menaces qui planent sur un débat démocratique sain.

Toutefois, ces fameuses fake news recouvrent un large éventail de contenus très différents. Sites «parodiques» volontairement trompeurs, simple rumeurs amplifiées par les réseaux sociaux, lobbys un peu trop biaisés en leur propre faveur, militantes ou militants n’hésitant pas à manipuler la vérité, internaute lambda faisant une erreur honnête ou services russes organisés.

Préparez-vous d'ores et déjà à bien pire: ces fausses informations, même les mieux organisées et les plus convaincantes qui soient, ne sont qu’un avant-goût de ce qui reste à venir. Les développements rapides de l’intelligence artificielle (IA) et du machine learning pourraient ouvrir la voie à des malfaisances en ligne d’une envergure inédite.

Du porno à la manipulation politique

Le procédé qui inquiète le plus est celui du deep fake –une technique qui permet à un algorithme de superposer un visage sur une vidéo pré-existante et qui a fait couler beaucoup d’encre lorsqu’un utilisateur de Reddit a commencé à mettre le visages d’actrices célèbres sur le corps d’actrices pornographiques.

La retouche vidéo n’est pas une nouveauté, mais elle nécessitait autrefois des compétences et des moyens inaccessibles pour la plupart des internautes. Des algorithmes peuvent désormais faire tout le travail à leur place. Le scandale de la Ligue du LOL a démontré comment des montages pornographiques réalisés avec les outils rudimentaires de l’époque pouvaient être destructeurs –on ne peut qu’imaginer l’effet plus vrai que nature issu des manipulations d’un deep fake.

Le potentiel nuisible de cette technique avait été mis en lumière par une vidéo de Buzzfeed News montrant un discours très réaliste de Barack Obama –en réalité une vidéo retouchée et doublée par le comédien Jordan Peele. Un tour de passe-passe réalisé sur FakeApp, une application gratuite et facile d’utilisation.

Everybody's fake news

Toutefois, la vidéo n’est que l’un des médias que l’IA est à même de trafiquer. Mis en ligne récemment, le site thispersondoesnotexist.com (cette personne n'existe pas.com) génère des visages créés automatiquement par ordinateur. Si des erreurs se glissent dans certaines images, la plupart d'entre elles sont bluffantes d'exactitude.

Une technique fréquente utilisée dans les arnaques en ligne consiste à créer un faux profil sur une plateforme en utilisant des photos trouvées sur internet. La plupart du temps, une recherche inversée permet de retrouver la photo originale. Dans le cas d'un visage créé de toutes pièces, il devient difficile de le prouver.

Souvent évoqués au sujet de l’automatisation du journalisme, les bot créateurs de texte ont aussi un fort potentiel de nuisance. OpenAI, un groupe de recherche en IA à but non lucratif présidé par Elon Musk, s’inquiète de la qualité des bots de texte.

En effet, un algorithme assez perfectionné permettrait de produire «des textes trompeurs, biaisés ou insultants à grande échelle», comme des faux articles de presse, du spam ou des messages de phishing.

Le défi est de taille: toutes ces techniques se développent plus vite que leurs parades. Et encore, ne sont listées ici que quelques-unes de leurs applications potentielles. Il est urgent de mettre en place des méthodes sûres et efficaces afin de détecter ces contrefaçons et, surtout, d’apprendre aux internautes à ne plus jamais faire confiance à leurs yeux.

En ce moment

Les assistants personnels intelligents renforcent les stéréotypes sexistes

Tech

Les assistants personnels intelligents renforcent les stéréotypes sexistes

Avec des voix féminines par défaut, ils perpétueraient des idées désuètes et préjudiciables aux femmes.

Amazon gamifie l'enfer de ses entrepôts

Biz

Amazon gamifie l'enfer de ses entrepôts

Travailler dans l'un des centres logistiques de la firme est un travail herculéen et ingrat.

On ne comprend pas forcément mieux son bébé avec les apps de grossesse

Tech

On ne comprend pas forcément mieux son bébé avec les apps de grossesse

En proposant de suivre l'évolution de la grossesse et le développement du fœtus au quotidien, les applis reconfigurent le lien avec l'enfant à naître.