La vie en code peut être une vie en rose, mais elle peut également révéler une face plus sombre. | Markus Spiske via Unsplash
La vie en code peut être une vie en rose, mais elle peut également révéler une face plus sombre. | Markus Spiske via Unsplash

Les 6 dangers de l'IA selon le MIT

Les intelligences artificielles sont un progrès, qui ne va pas sans risques: le MIT en a listé six.

D’après Will Knight et Karen Hao, deux journalistes du MIT Technology Review, le magazine attaché au célèbre institut éponyme, l’année 2018 a été riche en enseignements concernant les dangers et les risques que nous ferait courir l’intelligence artificielle. Voici, selon l'auteur et l'autrice, les principaux écueils qu'il faudra, dans les prochains mois et les prochaines années, chercher à éviter.

  • Les voitures autonomes

En mars 2018, l’accident mortel causé par une voiture autonome Uber a révélé les failles d’une technologie encore loin d’être au point. Alors que des constructeurs automobiles traditionnels, tel Ford, et de nombreuses start-ups partent à l’assaut de ce nouveau secteur, une législation digne de ce nom se fait encore attendre.

  • La manipulation politique

Le scandale Cambridge Analytica a mis au jour comment l’utilisation de nos données numériques pouvait servir à orienter la communication des politiques afin de nous influencer. On apprend encore que, en filtrant les informations qui nous parviennent sur les réseaux sociaux, les algorithmes encouragent aussi la désinformation. Facebook, par la voix de son PDG Mark Zuckerberg, a déclaré que l’intelligence artificielle servirait à l’avenir à repérer les contenus malveillants et espère le prouver dès cette année lors de l’élection présidentielle au Kenya et des élections générales sud-africaines.

  • Les algorithmes tueurs

Abandonné par Google en 2018, le projet Maven, destiné à fournir au Pentagone une intelligence artificielle de pointe pour ses drones-tueurs, pourrait faire des émules en 2019. L’utilisation de l’IA à des fins militaires est d’ores et déjà au programme de Microsoft ou Amazon. Mais les armes autonomes devraient également s’inviter à la table des négociations de l’Onu en 2019 et conduire à leur éventuelle interdiction.

  • La reconnaissance faciale

Les incroyables capacités de l’intelligence artificielle à reconnaître des visages a conduit plusieurs pays, la Chine en tête, à déployer une surveillance technologique de masse. Utilisée pour taguer nos photos ou débloquer nos téléphones, la reconnaissance faciale sera bientôt étendue à nos webcams et à nos véhicules.

  • L'ère du deep fake

La prolifération de vidéos deep fake l’année dernière a montré combien il était désormais facile de retoucher une séquence de façon quasi-parfaite, en procédant à une permutation intelligente de visages. Un potentiel cauchemar pour les pourfendeurs de fake news et un nouvel outil pour ceux qui trouvent un intérêt à les faire proliférer.

  • La discrimination algorithmique

L'année 2018 a prouvé que des algorithmes entraînés à partir de données inégalitaires reproduisent les stéréotypes et les discriminations de nos sociétés. Un manque de diversité qui se retrouve dans le secteur de l’IA où les femmes, par exemple, sont sous-représentées. La Conférence internationale sur l’intelligence artificielle et l’éducation, une référence en matière d’IA, devrait se tenir en Éthiopie en 2020 et traiter ce problème. En espérant que les choses commencent à bouger d’ici là...

En ce moment

La marine américaine sonne-t-elle le glas du tout-tactile?

Tech

La marine américaine sonne-t-elle le glas du tout-tactile?

Ces interfaces sont mises en cause dans une collision meurtrière de 2017, et tous les concepteurs de véhicules devraient réfléchir à la question.

En Méditerranée, Frontex remplace les bateaux par des drones (et ça change tout)

Et Cætera

En Méditerranée, Frontex remplace les bateaux par des drones (et ça change tout)

Ces derniers ne sont pas soumis à l'obligation de sauvetage maritime, contrairement aux navires de patrouille.

Le survivalisme, un business florissant chez les ultra-riches

Biz

Le survivalisme, un business florissant chez les ultra-riches

Dans des maisons-bunkers, les millionnaires se préparent déjà à une hypothétique fin du monde.