L'IA parvient de mieux en mieux à singer les humains, pour des résultats parfois troublants. | Frank V via Unsplash
L'IA parvient de mieux en mieux à singer les humains, pour des résultats parfois troublants. | Frank V via Unsplash

Les «deep fakes», prochain cauchemar des fact-checkers

La démocratisation de l’intelligence artificielle risque de grandement faciliter les nuisances en ligne.

Des chaînes d'information en continu américaines jusqu’aux groupes Facebook des «gilets jaunes», les fake news sont dénoncées un peu partout comme l’une des principales menaces qui planent sur un débat démocratique sain.

Toutefois, ces fameuses fake news recouvrent un large éventail de contenus très différents. Sites «parodiques» volontairement trompeurs, simple rumeurs amplifiées par les réseaux sociaux, lobbys un peu trop biaisés en leur propre faveur, militantes ou militants n’hésitant pas à manipuler la vérité, internaute lambda faisant une erreur honnête ou services russes organisés.

Préparez-vous d'ores et déjà à bien pire: ces fausses informations, même les mieux organisées et les plus convaincantes qui soient, ne sont qu’un avant-goût de ce qui reste à venir. Les développements rapides de l’intelligence artificielle (IA) et du machine learning pourraient ouvrir la voie à des malfaisances en ligne d’une envergure inédite.

Du porno à la manipulation politique

Le procédé qui inquiète le plus est celui du deep fake –une technique qui permet à un algorithme de superposer un visage sur une vidéo pré-existante et qui a fait couler beaucoup d’encre lorsqu’un utilisateur de Reddit a commencé à mettre le visages d’actrices célèbres sur le corps d’actrices pornographiques.

La retouche vidéo n’est pas une nouveauté, mais elle nécessitait autrefois des compétences et des moyens inaccessibles pour la plupart des internautes. Des algorithmes peuvent désormais faire tout le travail à leur place. Le scandale de la Ligue du LOL a démontré comment des montages pornographiques réalisés avec les outils rudimentaires de l’époque pouvaient être destructeurs –on ne peut qu’imaginer l’effet plus vrai que nature issu des manipulations d’un deep fake.

Le potentiel nuisible de cette technique avait été mis en lumière par une vidéo de Buzzfeed News montrant un discours très réaliste de Barack Obama –en réalité une vidéo retouchée et doublée par le comédien Jordan Peele. Un tour de passe-passe réalisé sur FakeApp, une application gratuite et facile d’utilisation.

Everybody's fake news

Toutefois, la vidéo n’est que l’un des médias que l’IA est à même de trafiquer. Mis en ligne récemment, le site thispersondoesnotexist.com (cette personne n'existe pas.com) génère des visages créés automatiquement par ordinateur. Si des erreurs se glissent dans certaines images, la plupart d'entre elles sont bluffantes d'exactitude.

Une technique fréquente utilisée dans les arnaques en ligne consiste à créer un faux profil sur une plateforme en utilisant des photos trouvées sur internet. La plupart du temps, une recherche inversée permet de retrouver la photo originale. Dans le cas d'un visage créé de toutes pièces, il devient difficile de le prouver.

Souvent évoqués au sujet de l’automatisation du journalisme, les bot créateurs de texte ont aussi un fort potentiel de nuisance. OpenAI, un groupe de recherche en IA à but non lucratif présidé par Elon Musk, s’inquiète de la qualité des bots de texte.

En effet, un algorithme assez perfectionné permettrait de produire «des textes trompeurs, biaisés ou insultants à grande échelle», comme des faux articles de presse, du spam ou des messages de phishing.

Le défi est de taille: toutes ces techniques se développent plus vite que leurs parades. Et encore, ne sont listées ici que quelques-unes de leurs applications potentielles. Il est urgent de mettre en place des méthodes sûres et efficaces afin de détecter ces contrefaçons et, surtout, d’apprendre aux internautes à ne plus jamais faire confiance à leurs yeux.

En ce moment

Réutilisable 132 fois, CupClub révolutionne le gobelet en plastique

Biz

Réutilisable 132 fois, CupClub révolutionne le gobelet en plastique

Une architecte anglaise a mis au point un gobelet qui, après usage, est collecté et lavé tous les jours avant d'être redistribué et in fine recyclé.

La Chine pique en douce la technologie spatiale américaine

Tech

La Chine pique en douce la technologie spatiale américaine

En retard sur les États-Unis dans la course aux étoiles, le géant asiatique n'hésite pas à recourir à l'espionnage et à la contrebande de pièces sensibles.

Au Venezuela, le marché reprend ses droits

Biz

Au Venezuela, le marché reprend ses droits

La situation économique du pays connaît une relative amélioration, du moins pour la population capable de payer en dollars.