Lorsque l'on aborde le sujet des deepfakes et de la menace qu'ils représentent, les risques évoqués ont souvent trait aux infox et à la «pornographie non-consensuelle».
Ces logiciels, qui permettent de trafiquer des fichiers vidéo ou audio via l'intelligence artificielle, sont en effet majoritairement utilisés pour coller le visage de femmes sur des vidéos porno ou pour modifier des vidéos de politicien·nes.
Cependant, si des politicien·nes de premier plan et des stars de cinéma sont souvent visé·es, les deepfakes peuvent tout à fait imiter monsieur ou madame tout le monde, à condition de disposer de leur image ou de leur voix. Plus de 100.000 femmes en ont d'ailleurs fait la très amère expérience.
Or, le fait de pouvoir imiter le visage ou la voix de n'importe qui ouvre la porte à des tentatives d'usurpation d'identité sophistiquées, une possibilité qui inquiète beaucoup le système bancaire. Le Financial Times rapporte ainsi que de plus en plus de banques tentent de s'en prémunir.
La fintech à la rescousse
Récemment, HSBC a annoncé qu'elle allait commencer à utiliser un système d'identification biométrique développé par l'entreprise de fintech (technologie financière) Mitek. Également adopté par Mastercard et JP Morgan Chase, ce système permet de s'assurer de l'identité réelle des nouveaux et nouvelles clientes.
Les banques et assureurs s'arment aussi de logiciels qui leur permettent de s'assurer qu'elles s'adressent à des personnes réelles, et non à des enregistrements modifiés ou créés de toute pièce. Aegon, ING et Robobank, entre autres, travaillent ainsi avec la firme spécialisée iProov, qui garantit pouvoir détecter et bloquer les deepfakes.
De tels niveaux de protection ne sont pas le reflet d'une quelconque crise paranoïaque: le risque est bien réel. Des millions ont déjà été détournés par des hackers qui, en se basant sur des vidéos ou interviews, sont parvenus à synthétiser la voix de cadres de grandes entreprises, et à passer de faux coups de fil à leurs employé·es pour leur ordonner de virer des fonds.
La menace est d'autant plus pressante que la pandémie a sévèrement limité les interactions en face-à-face. Pour Blackberry, l'ancien fabricant de smartphones devenu éditeur de logiciels et conseil en cybersécurité, «les employés des banques sont plus vulnérables que jamais aux attaques via deepfakes».
L'enjeu pour les banques, les entreprises de la fintech et plus généralement toutes les firmes commerciales faisant appel à la reconnaissance faciale est aussi de conserver la confiance de leur clientèle.
L'an dernier, alors que l'app de deepfake ZAO faisait fureur en Chine, Alibaba s'était dépêché de prendre les devants et de communiquer, affirmant que les deepfakes étaient incapables de tromper les systèmes d'autorisation de paiement par reconnaissance faciale.
