Nul n'ignore qu'une intelligence dite artificielle ne l'est que partiellement: c'est l'être humain qui dirige et nourrit le machine learning, c'est grâce aux données qu'il lui fait ingérer que la machine apprend à comprendre ou à décider, c'est en observant la masse des comportements qu'elle peut déduire des règles de fonctionnement.
Que se passe-t-il alors quand, comme lors de la crise que nous traversons, la masse des individus se comporte de manière irrationnelle, qu'elle ne fait pas ce que l'IA est supposée connaître et maîtriser? La machine déraille, les modèles algorithmiques explosent et l'être humain doit intervenir pour régler sa création paumée. «L'automatisation est partie en vrille», commente ainsi Rajeev Sharma, vice-président du cabinet spécialisé Pactera Edge.
Un article du MIT donne de nombreux exemples de ces réglages impératifs. Une grande publicité a été faite autour de la manière dont Amazon, après avoir vu ses listings bouleversés par les commandes massives de masques ou de papier toilette, a repris les choses en main pour mettre un peu d'ordre.
Mais, en cascade parfois incontrôlée ou incomprise, les changements qu'elle a opérés en ont provoqué d'autres qui ont mis à mal ses vendeurs partenaires, notamment en matière de publicité ciblée.
Réapprendre à apprendre
Fondateur de Featurespace, une firme spécialisée dans les logiciels de détection de fraude à la carte bancaire, David Excell explique qu'une frénésie soudaine d'achats dans des domaines inhabituels (l'équipement pour le jardin ou le bricolage, par exemple) a mis à mal son système, provoquant dans un premier temps de nombreux faux positifs.
Phrasee, une entreprise londonienne fournissant un système de rédaction automatisée de textes marketings a également dû réadapter son outil pour qu'il apprenne, en cette période sensible, à éviter certains termes ou conseils de consommation inadaptés. Il a fallu bannir les «préparez-vous», «OMG!», les mentions à la viralité ou aux stocks pour ne pas heurter des esprits déjà à vif.
De nombreuses entreprises, à qui l'on a fourni des services clé en main, se sont retrouvées confrontées à des comportements irrationnels de la part d'algorithmes sur lesquels elles n'avaient pas toujours la main –et encore moins les compétences requises pour les adapter.
En outre, ces IA ne se règlent pas seules: ce sont des micro-travailleurs et micro-travailleuses très précaires –les célèbres Mechanical Turks d'Amazon notamment– qui, dans l'ombre et pour de misérables paiements à la tâche, œuvrent afin de corriger ce qui doit l'être.
Une armée d'invisibles, pour reprendre le terme d'Antonio Casilli et Julien Goetz, qui, avec le confinement –et aux États-Unis le surgissement d'un chômage massif– a trouvé de nombreuses nouvelles recrues, déclassées modernes et esclaves du clic.
