L'un de ces deux visages n'existe pas: il a été généré par une intelligence artificielle. | Via whichfaceisreal.com
L'un de ces deux visages n'existe pas: il a été généré par une intelligence artificielle. | Via whichfaceisreal.com

L'espionne qui venait de l'IA

Méfiez-vous de vos contacts LinkedIn aux photos de profil trop parfaites: ce sont peut-être des barbouzes.

Sur LinkedIn, Katie Jones se présentait comme travaillant dans un think tank lié à de nombreuses institutions et personnalités de Washington. Mais une enquête de Raphael Satter, journaliste à Associated Press, a révélé que cette personne n'existe pas.

Sa photo de profil a été générée par une intelligence artificielle et son profil avait tous les traits d'une opération d'infiltration, de manipulation voire d'espionnage.

Réseaux adverses génératifs

D'ordinaire, les faux profils de ce type utilisent des photos de quidams lambdas trouvées sur le web; il suffit souvent d'une recherche d'image inversée pour se rendre compte de la supercherie. Avec un visage qui n'existe pas, le risque de se faire démasquer est bien plus faible, mais il n'est pas nul.

«Je suis convaincu qu'il s'agit d'un faux visage, assure Mario Klingemann, un artiste allemand qui génère depuis des années des portraits artificiels et qui a examiné des dizaines de milliers d'images de ce type. Il en a toutes les caractéristiques.»

Pionnier dans le domaine des réseaux neuronaux et de l'apprentissage par ordinateur, Klingemann se donne pour objectif de «programmer des machines intelligentes capables de créer des œuvres en toute autonomie». Créés sous le pseudo de Quasimondo, ses portraits générés par intelligence artificielle ont fait l'objet de nombreuses expositions.

Plusieurs experts contactés par Satter expliquent que le visage de Katie Jones a probablement été conçu par une classe d'algorithmes appelée «réseaux adverses génératifs» (en anglais «generative adversarial networks» ou GANs), permettant de produire des images avec un fort degré de réalisme –et notamment des visages de personnes entièrement imaginaires.

Inquiétants présages

Le profil LinkedIn de Jones a d'abord été signalé par Keir Giles, un spécialiste russe du groupe de réflexion Chatham House de Londres. Récemment ciblé par une opération d'espionnage visant les personnalités critiquant l'antivirus russe Kaspersky, il était devenu suspicieux après avoir reçu l'invitation de Jones sur LinkedIn.

Katie Jones prétendait travailler depuis des années en tant que «chercheuse sur la Russie et l'Eurasie» au Center for Strategic and International Studies de Washington. Sauf que si c'était vrai, «j'aurais dû entendre parler d'elle», raconte Giles.

Contacté, un porte-parole du centre a de fait répondu à Associated Press que «personne du nom de Katie Jones ne travaille pour nous». L'agence a ensuite essayé de joindre l'espionne présumée, mais la soi-disant Katie Jones avait depuis fermé son profil.

Réagissant sur Twitter à la publication de l'enquête de Raphael Satter, Klingemann prédit des temps sombres: «Profitons des quelques années qu'il nous reste où nous pourrons encore identifier les fausses images comme celle-ci. C'est déjà difficile, mais cela deviendra bientôt impossible.»

Les risques sont réels, car ces profils inventés peuvent s'avérer très utiles: «Au lieu d'envoyer des espions dans un parking aux États-Unis pour recruter une cible, il est bien plus efficace de s'asseoir derrière un ordinateur à Shanghai et d'envoyer des demandes d'amis à 30.000 cibles», souligne William Evanina, directeur du Centre national National Counterintelligence and Security Center.

En attendant, vous pouvez d'ores et déjà vous entraîner à identifier de tels visages artificiellement générés sur whichfaceisreal.com, l'un des outils développés par des chercheurs de l'université de Washington dans le cadre du bien nommé projet Calling Bullshit.

En ce moment

Augmenter l'humanité, pourquoi pas? Encore faut-il se poser les bonnes questions

Et Cætera

Augmenter l'humanité, pourquoi pas? Encore faut-il se poser les bonnes questions

Avant de fusionner avec les machines il importe de bien (re)définir ce qui relève de l'être humain.

Le florissant commerce de restes humains sur Instagram

Et Cætera

Le florissant commerce de restes humains sur Instagram

Cantonné à eBay jusqu'à son interdiction, l'achat-vente de squelettes décorés se réfugie dans le flou juridique du réseau social.

La big data en santé, une mine d'or de 12 milliards d'euros pour la Grande-Bretagne

Biz

La big data en santé, une mine d'or de 12 milliards d'euros pour la Grande-Bretagne

La NHS est assise sur un trésor convoité par l'industrie pharmaceutique.