La multiplication des images sur les réseaux s'accompagne de celle de leur manipulation. | Dainis Graveris via Unsplash
La multiplication des images sur les réseaux s'accompagne de celle de leur manipulation. | Dainis Graveris via Unsplash

Deepfakes: un bot dénude 100.000 femmes sur Telegram

Un vaste système de trucages pornographiques, dont l'ampleur et la simplicité technique semblent inédites.

On sait depuis leur émergence que les deepfakes ne sont pas uniquement un danger politique potentiel, mais aussi une arme contre les femmes. Célèbres ou non, beaucoup ont déjà été victimes de manipulation de leur image à des fins pornographiques.

Les choses semblent avoir pris une ampleur inédite, et le deepfake porno un atour plus sinistre encore: selon la firme Sensity, reprise notamment par le Wired britannique, un système élaboré aurait touché plus de 100.000 femmes sur l'application de messagerie Telegram.

Associé à une intelligence artificielle spécialisée dans l'imagerie, un bot peut y être utilisé pour créer en quelques clics des deepfakes pornographiques ou dénudés de ses proches.

Extraite par exemple des comptes personnels sur les réseaux sociaux, une photo est fournie au logiciel, qui ensuite la dénude artificiellement avant de la partager dans un canal peuplé de 25.000 membres sur Telegram.

À l'insu des victimes

Selon la BBC, le résultat visuel de la manipulation est plus ou moins convaincant –mais certaines photos semblent tout à fait réelles et concernent parfois des jeunes filles mineures.

Semble-t-il en majorité russophones, les membres du canal Telegram en question ont évoqué un simple «divertissement» auprès des journalistes de la BBC. Pour les victimes avérées ou potentielles, les dommages peuvent être incommensurables.

C'est d'autant plus vrai que le système ne nécessite aucune connaissance technique préalable –d'où son utilisation massive– et que la nature même des réseaux sociaux et des canaux de discussion sur internet permet à de telles horreurs d'être très largement partagées, à l'insu absolu des personnes visées.

En ce moment

Le Dôme de fer israélien, les terres agricoles de Bill Gates, le méga-yacht de Jeff Bezos, une journée sur korii.

Et Cætera

Le Dôme de fer israélien, les terres agricoles de Bill Gates, le méga-yacht de Jeff Bezos, une journée sur korii.

Quatre articles pour comprendre l'envers du monde.

Jeff Bezos s'offre un méga-yacht à 500 millions de dollars

Et Cætera

Jeff Bezos s'offre un méga-yacht à 500 millions de dollars

Les commandes de bateaux fastueux grossissent au même rythme que la fortune des milliardaires.

Les avions trop automatisés sont un casse-tête pour les pilotes

Tech

Les avions trop automatisés sont un casse-tête pour les pilotes

Les erreurs humaines ne sont pas la première cause des crashs aériens.