Après le fulgurant succès de TikTok, une nouvelle app chinoise fait fureur sur internet. Zao est sortie ce vendredi 30 août et est devenue l'application gratuite la plus téléchargée de l'AppStore chinois en quelques jours à peine.
Zao permet de prendre une photo de votre visage puis de l'apposer sur celui d'un personnage choisi parmi une sélection de clips vidéo, tirés essentiellement de films chinois, mais aussi de long-métrages et séries occidentales comme Titanic ou Game of Thrones. À en juger les vidéos disponibles sur les réseaux sociaux, le résultat est bluffant.
À bien des égards, l'appli est la matérialisation d'un événement prédit depuis quelques mois déjà: la démocratisation des deepfakes, ces logiciels qui permettent, grâce à l'intelligence artificielle, de calquer un visage sur un corps à partir de simples photos.
In case you haven't heard, #ZAO is a Chinese app which completely blew up since Friday. Best application of 'Deepfake'-style AI facial replacement I've ever seen.
— Allan Xia (@AllanXia) September 1, 2019
Here's an example of me as DiCaprio (generated in under 8 secs from that one photo in the thumbnail) pic.twitter.com/1RpnJJ3wgT
«Au cas ou vous n'en auriez pas entendu parler, #ZAO est une app chinoise qui a explosé depuis vendredi. Meilleure application des I.A. “deepfake” de remplacement facial que j'ai jamais vue. Voici un exemple de moi en DiCaprio (générée en moins de 8 secondes grâce à une seule photo).»
Pas d'affolement, mais de la prudence
Les réseaux sociaux se sont rapidement inquiétés des dommages que des deepfakes mis à la portée du grand public pourraient causer –surtout lorsque l'on sait à quelle vitesse des montages mensongers, pourtant techniquement bien inférieurs à ceux de Zao, peuvent se propager sur internet.
Heureusement, Zao ne sera probablement pas responsable d'un incident diplomatique. L'app ne fonctionne pour l'instant qu'avec des clips présélectionnés –ce qui peut d'ailleurs expliquer la qualité des fakes. Rien n'indique que ses algorithmes puissent répliquer leurs prouesses sur d'autres images.
Une autre crainte porte sur la protection des données privées. Les conditions d'utilisation précisent que les photos sont envoyées sur les serveurs de l'entreprise, mais surtout que cette dernière peut ensuite en disposer à sa guise.
Foudroyée par le géant chinois WeChat pour des raisons de sécurité, Zao a annoncé qu'elle changerait ses CGU, afin que les clichés ne puissent pas être réutilisés dans un autre but sans autorisation.
Compte tenu des méthode de surveillance de masse high-tech du pays, livrer sa tête à une entreprise chinoise reste malgré tout inquiétant. Comme le souligne Wired, ce serait toutefois une méthode bien alambiquée pour le gouvernement chinois, qui n'a pas pour habitude de prendre tant de pincettes pour récupérer des données –en témoigne la récente révélation d'un hack massif d'iPhone.
En définitive, il ne semblerait pas que Zao soit plus nocive que d'autres apps ou sites gratuits auxquels les internautes fournissent leurs données tous les jours —comme Facebook, pour n'en nommer qu'un–, ce qui ne signifie pas qu'il faille lui faire aveuglément confiance.
