Google vient de fêter ses 20 ans. Tout au long de son enfance, il a accepté les jeux de construction ennuyeux qu’on lui imposait. Il a sagement modelé un moteur de recherche qui marche, bâti une suite de travail fonctionnelle et complète, et même imaginé de beaux projets pour la science, la médecine et l’environnement. Tout ça sans caprice.
Tout se passait bien pour lui, Google s’amusait discrètement. Et puis, les années passant, on s'est rendu compte qu'à côté de ses jeux sages, il profitait de notre inattention pour multiplier les mauvaises fréquentations. Et il a fini par se faire attraper: en 2018, ses relations discutables avec certains de ses amis ont causé des dizaines de démissions, des milliers de signatures de pétition et du rétropédalage sur trois projets.
Petit ange qui a grandi trop vite
Google, on l’a vu grandir. Moteur de recherche, messagerie, cartes, suites de travail, stockage, téléphones: on a tout aimé, tout adopté et tout intégré dans nos quotidiens sans trop se poser de question. En fait, il n’y a bien que Google+ à qui on a toujours réussi à résister… mais ça, c’était facile. Un jour, on a appris que la devise du petit, c’était «Don’t be evil» («Ne sois pas méchant»). On n'a pas trop compris pourquoi, mais on a trouvé ça chouette.
Cette histoire, c’est celle d’une relation réciproque: si Google a accompagné nos évolutions, nous avons aussi chaperonné la sienne. Nous l’avons éduqué patiemment, et élevé consciencieusement son intelligence jour après jour en lui léguant tout notre savoir. Le plus souvent même, nous l’avons fait à notre insu.
Car dès 10 ans, Google est déjà un petit malin. Et plutôt que de passer des heures à numériser des livres pour son projet Google Books, il fait bosser les copains et les copines. Dès 2009, il rachète ainsi la société reCaptcha qui détourne les fameux tests CAPTCHA pour mettre l’intelligence collective des utilisateurs au profit du développement des outils Google.
Concrètement, comment cela se passe-t-il? Dans le cas d’un CAPTCHA classique, la machine propose un mot à reconnaître. Si l’on rentre le bon mot –connu par la machine, donc– le test est passé avec succès, et basta. Dans le cas de reCaptcha, il n’y a plus un test mais deux, le second étant en réalité un test factice pour lequel la machine ne connaît pas la réponse. En y répondant, nous l’aidons à identifier un mot qu’elle n’aurait pas réussi à déchiffrer seule. Et nous l’aidons à numériser ses livres, et à progresser.
Le mécanisme de triche est si bien huilé que deux ans plus tard, nous –les utilisateurs et les utilisatrices– avons contribué à achever la digitalisation de toutes les archives Google Books. Ouf. Mais voilà, entre-temps, Google a récupéré de nouveaux devoirs: il y a du boulot sur Google Street View. Nous voilà à retranscrire les numéros de rue, pointer les passage piétons ou les devantures des magasins.
Dès 2014, le système reCaptcha est entièrement dédié à l’entraînement de l’intelligence artificielle. Comme l’explique James O’Malley: «Vous savez, quand reCaptcha vous demande d'identifier des panneaux de signalisation? En fait, vous jouez un petit rôle dans le pilotage d’une voiture sans conducteur, quelque part, dans le futur».
Aujourd’hui, Google n’a plus besoin d’inventer des exercices factices pour tirer parti de notre intelligence. La sienne, artificielle, s’entraîne en toute simplicité en suivant nos déplacements, en analysant nos recherches et en triant nos photos –au prix de quelques grossières erreurs.
Google Photos, y'all fucked up. My friend's not a gorilla. pic.twitter.com/SMkMCsNVX4
— I post from https://v2.jacky.wtf. ? != safe. (@jackyalcine) 29 juin 2015
Incident dans le système de reconnaissance visuelle de Google Photos en 2015
Main dans la main avec Google, nous avons, comme une grande équipe de plusieurs milliards de testeurs, enfanté au fil des années une intelligence artificielle ultra performante et une connaissance pointue des enjeux du monde moderne. Il y aurait de quoi être fier.
Petit génie deviendra grand (et méchant)
Le souci, c’est que le kid Google a prêté ses jouets à des fréquentations un peu douteuses. Dans un article fleuve publié en décembre 2018 dans The Guardian et tiré du livre Surveillance Valley: The Secret Military History of the Internet, Yasha Levine raconte les débuts de Keyhole, une société de jeu vidéo ayant développé une solution de mapping basée sur des images satellites.
J'ai dit à nos représentants commerciaux d'accepter les contrats s'ils promettaient de ne rien dire à personne. Je ne voulais pas que cela fasse peur aux défenseurs de la vie privée.
Ses principales investisseuses sont la CIA et la NGA (National Geospatial-Intelligence Agency, une «agence sœur» de la NSA) et ses clientes l’armée américaine et les agences de renseignement. Quelques mois seulement après l’investissement de la CIA, Keyhole était déployé en support des troupes américaines durant l’opération «Liberté irakienne», visant à renverser Saddam Hussein. Rachetée en 2004 par Google, elle sera renommée Google Earth.
En anglais, mais en clair, quelques mots sur la réalité de Google
Ce rachat, qui arrive finalement très tôt dans la vie de Google, «marque le moment où l’entreprise cesse d’être une société internet exclusivement tournée vers le consommateur et commence à s’intégrer au gouvernement américain». Google n’a alors que 5 ans. Il a déjà signé des contrats à plusieurs millions de dollars avec la NSA et la CIA, toujours avec discrétion. The Guardian rapporte ainsi les mots de Douglas Edwards, premier directeur marketing de l'entreprise: «J'ai dit à nos représentants commerciaux d'accepter les contrats s'ils promettaient de ne rien dire à personne. Je ne voulais pas que cela fasse peur aux défenseurs de la vie privée».
De nombreux autres accords suivront: pour équiper les soldats des outils Google, faire tourner les serveurs des bases de données de la CIA, et même déployer une intelligence artificielle au service des bases américaines en Irak.
Pourquoi l’armée ne pourrait-elle pas être une cliente comme les autres pour Palo Alto? Parce que «la taille et l’ambition de Google le placent dans une position qui va au-delà du simple contractuel. Il est davantage un partenaire qui travaille d’égal à égal avec les agences du gouvernement tout en utilisant sa domination commerciale», explique Yasha Levine.
Don’t be evil (or be?)
Début 2019, Google a 20 ans. Plus de dix années après le début de ses 400 coups, l’amitié entre Google et le Pentagone a commencé à faire sérieusement grincer des dents. Après avoir été contraint d’abandonner en juin dernier le projet Maven (qui prévoyait l'utilisation d'une IA de Google sur des drones), Google a dû se retirer fin 2018 du juteux projet JEDI, une refonte de l'infrastructure de cloud computing de l'armée à 10 milliards de dollars.
En août, la firme a également dû rétropédaler dans le cadre du projet Dragonfly, la création d’un moteur de recherche pour la Chine, qui filtrerait les résultats de recherche. Tout ça sans parler des robots militaires de Boston Dynamics, revendus quatre ans après leur achat par Google.
C’est que Google a mélangé toutes ses billes dans un même sac. Yasha Levine explique à nouveau: «Quel que soit le service déployé ou le marché sur lequel il est entré, la surveillance et la prédiction ont été intégrées au business». Et si Google range mal sa chambre, les data tirées d’une photo de notre grand-mère peuvent rapidement se retrouver mêlées aux outils d’intelligence artificielle mis à la disposition de l’armée.
Who run the world?
En mai 2018, comme pour fêter son entrée dans la vie d’adulte, Google a subrepticement changé la devise qui le suit depuis l’enfance. En abandonnant le «Don’t be evil» pour le plus froid «Do the right thing» («Fais ce qui est juste»), la firme délaisse la notion de «bon» qui apparaissait en creux dans sa première formule pour une nouvelle, plus ambigüe, à mi-chemin entre le «juste» et le «correct». Il s’agit simplement de «faire ce qu’il faut», mais selon qui? Et avec quel arbitrage?
Le scénario, mis en mots par le média Futurism, tient plutôt la route: cela fait des années que l’on dit que le temps de la justice traditionnelle est trop lente pour les GAFA, que Google s’immisce petit à petit dans chaque pan de notre société, qu’il peut même deviner ce qu’on ne lui dit pas... Serait-on sans le savoir –ou en le sachant trop bien– en train de changer de régime à l’échelle mondiale?
Non. Ou pas encore. À trois reprises en 2018, la mobilisation du personnel, de la recherche et du grand public a forcé Google à faire marche arrière. L'entreprise a alors formalisé, avec grand bruit cette fois-ci, ses «AI Principles», sept commandements pour une utilisation plus éthique de son intelligence artificielle. Ça ne fait pas tout, certes, mais la vigie citoyenne a fait ses preuves en 2018, et continuera probablement de «dark-checker» le côté sombre de la firme. Google ne dirige pas encore le monde. Les citoyennes et les citoyens, si. Notre prochaine devise pour Google? «Don’t mess with us»: ne te fiche pas de nous.
