Si une intelligence artificielle peut battre un joueur de go, elle peut sans doute vous soutirer de l'argent. | Sharon McCutcheon via Unsplash
Si une intelligence artificielle peut battre un joueur de go, elle peut sans doute vous soutirer de l'argent. | Sharon McCutcheon via Unsplash

Quand les IA s'entendent sur les prix

Que font deux intelligences artificielles si vous les faites réfléchir séparément aux prix sur un marché donné? Elles forment un cartel, sans que personne ne leur demande.

Les algorithmes et les intelligences artificielles, faut-il encore le rappeler, sont partout, de plus en plus efficaces et de plus en plus faciles à mettre en place.

Dans nos fils Facebook, nos timelines Twitter, nos recommandations Netflix, nos playlists Spotify, avec ou sans l'intervention d'un être humain, les formules mathématiques et équations complexes décident de ce que nous lisons, écoutons, regardons.

Elles décident également de ce que nous payons. Si vous avez voyagé ces dix dernières années, vous l'avez sans doute remarqué: les prix des billets d'avion comme ceux des chambres d'hôtel varient selon des critères sibyllins, que certaines personnes arrivent parfois à exploiter à leur profit.

Problème: comme le rappelle la Technology Review du MIT, ces intelligences artificielles, qui décident des prix sur de nombreuses plateformes de vente en ligne, commencent à devenir vraiment intelligentes –au point de battre des êtres humains au très complexe jeu de go, comme AlphaGo, programmé par Google.

Apprentissage discret de la collusion

L'une des raisons de cette nette progression du «quotient intellectuel artificiel» vient de la manière dont les homo sapiens ont appris à ces robots à réfléchir, ou plutôt comment la méthode dite du «reinforcement learning» les a motivés à mieux le faire. En associant un but à un système de récompenses et de malus, cette facette du machine learning pousse l'IA à tester diverses solutions pour mieux faire.

Une équipe de recherche de l'Université de Bologne, en Italie, a découvert qu'en mettant deux de ces intelligences artificielles en «compétition» sur un même marché, elles avaient fini à force d'essais et d'erreurs par s'entendre sur les prix. Oui: les intelligences artificielles peuvent former des cartels, et les laisser contrôler un marché en le pensant libre et pur serait une vraie bêtise.

«Le plus inquiétant est que ces algorithmes ne laissent aucune trace d'action concertée, ont expliqué les scientifique dans leur publication. Elles apprennent la collusion simplement par essai et erreur, sans connaissance préalable de l'environnement dans lequel elles opèrent, sans communiquer entre elles et sans qu'on ne leur apprenne spécifiquement cette collusion.»

En ce moment

Quand la Playstation servait à étudier les trous noirs

Tech

Quand la Playstation servait à étudier les trous noirs

Peu coûteuse et adaptable, cette machine taillée pour le jeu a aussi fait des miracles en sciences.

Le «sale petit secret» d'Uber, la pollution des sacs réutilisables, des bébés génétiquement modifiés, une semaine sur korii.

Et Cætera

Le «sale petit secret» d'Uber, la pollution des sacs réutilisables, des bébés génétiquement modifiés, une semaine sur korii.

De la lecture et des surprises pour votre samedi.

La recherche des seins parfaits, la mafia meilleure que Goldman Sachs, +100% à Wall Street, une journée sur korii.

Et Cætera

La recherche des seins parfaits, la mafia meilleure que Goldman Sachs, +100% à Wall Street, une journée sur korii.

Ce qu'il fallait lire aujourd'huii.