D’après Will Knight et Karen Hao, deux journalistes du MIT Technology Review, le magazine attaché au célèbre institut éponyme, l’année 2018 a été riche en enseignements concernant les dangers et les risques que nous ferait courir l’intelligence artificielle. Voici, selon l'auteur et l'autrice, les principaux écueils qu'il faudra, dans les prochains mois et les prochaines années, chercher à éviter.
- Les voitures autonomes
En mars 2018, l’accident mortel causé par une voiture autonome Uber a révélé les failles d’une technologie encore loin d’être au point. Alors que des constructeurs automobiles traditionnels, tel Ford, et de nombreuses start-ups partent à l’assaut de ce nouveau secteur, une législation digne de ce nom se fait encore attendre.
- La manipulation politique
Le scandale Cambridge Analytica a mis au jour comment l’utilisation de nos données numériques pouvait servir à orienter la communication des politiques afin de nous influencer. On apprend encore que, en filtrant les informations qui nous parviennent sur les réseaux sociaux, les algorithmes encouragent aussi la désinformation. Facebook, par la voix de son PDG Mark Zuckerberg, a déclaré que l’intelligence artificielle servirait à l’avenir à repérer les contenus malveillants et espère le prouver dès cette année lors de l’élection présidentielle au Kenya et des élections générales sud-africaines.
- Les algorithmes tueurs
Abandonné par Google en 2018, le projet Maven, destiné à fournir au Pentagone une intelligence artificielle de pointe pour ses drones-tueurs, pourrait faire des émules en 2019. L’utilisation de l’IA à des fins militaires est d’ores et déjà au programme de Microsoft ou Amazon. Mais les armes autonomes devraient également s’inviter à la table des négociations de l’Onu en 2019 et conduire à leur éventuelle interdiction.
- La reconnaissance faciale
Les incroyables capacités de l’intelligence artificielle à reconnaître des visages a conduit plusieurs pays, la Chine en tête, à déployer une surveillance technologique de masse. Utilisée pour taguer nos photos ou débloquer nos téléphones, la reconnaissance faciale sera bientôt étendue à nos webcams et à nos véhicules.
- L'ère du deep fake
La prolifération de vidéos deep fake l’année dernière a montré combien il était désormais facile de retoucher une séquence de façon quasi-parfaite, en procédant à une permutation intelligente de visages. Un potentiel cauchemar pour les pourfendeurs de fake news et un nouvel outil pour ceux qui trouvent un intérêt à les faire proliférer.
- La discrimination algorithmique
L'année 2018 a prouvé que des algorithmes entraînés à partir de données inégalitaires reproduisent les stéréotypes et les discriminations de nos sociétés. Un manque de diversité qui se retrouve dans le secteur de l’IA où les femmes, par exemple, sont sous-représentées. La Conférence internationale sur l’intelligence artificielle et l’éducation, une référence en matière d’IA, devrait se tenir en Éthiopie en 2020 et traiter ce problème. En espérant que les choses commencent à bouger d’ici là...
