Un Boeing 737 en vol, une chose que nous ne verrons peut-être plus avant quelque temps. | Drew Angerer / Getty Images North America / AFP
Un Boeing 737 en vol, une chose que nous ne verrons peut-être plus avant quelque temps. | Drew Angerer / Getty Images North America / AFP

Pourquoi les automobilistes doivent s'intéresser aux raisons du crash du Boeing 737 MAX

Les pilotes doivent apprendre à connaître leurs avions autonomes. Apprenons à connaître nos futures voitures.

Il y a quelque temps, j’ai demandé à mes collègues s’il leur était déjà arrivé que les fonctions automatiques de leurs voitures les prennent de court. L’une d’entre elles m’a dit avoir ressenti une sensation désagréable au volant d’une Infiniti Q50 Hybrid: le frein automatique l’avait fait ralentir peu avant un virage serré, et elle avait manqué de se faire emboutir par la voiture de derrière.

Un autre m’a parlé d’une Hyundai de location, qui lui avait intimé l’ordre de ne surtout pas déborder sur l’autre file, à grand renfort de bip-bip agressifs.

Le père de l'un de mes collègues avait démarré sa Toyota Camry à distance, avait laissé la clé électronique chez lui, puis s’était rendu au travail, pour découvrir au moment de rentrer qu’il était incapable de la faire redémarrer.

Selon une étude réalisée par Daniel McGehee, directeur du National Advanced Driving Simulator à l'Université de l’Iowa, près de la moitié des automobilistes des États-Unis (40% environ) ont connu des expériences semblables avec ce que l’industrie appelle les «systèmes d’aide à la conduite automobile».

«Surprises autonomes»

Les pilotes de ligne, qui utilisent des logiciels de conduite automatique depuis près de quarante ans, connaissent bien ce type d’incidents et les appellent les «surprises autonomes».

C’est peut-être un tragique incident de ce genre qui est survenu en octobre dernier, lorsqu’un Boeing 737 MAX de Lion Air s’est abîmé au large de Sumatra, avec 189 personnes à bord. Le crash fait toujours l’objet d’une enquête, mais l’on a vite mis en cause le logiciel de navigation Boeing MCAS, conçu pour stabiliser l’avion en orientant son nez vers le sol. Le MCAS est un correctif, censé contrebalancer le poids des lourds moteurs du 737 MAX; un MCAS défaillant aurait pu provoquer la chute libre de l’appareil.

Dimanche 10 mars 2019, un autre Boeing 737 MAX s’est écrasé peu de temps après son décollage à Addis-Abeba, en Éthiopie, sans que personne ne survive. Là encore, tous les regards sont braqués sur le MCAS.

Mardi 12 mars, le Dallas Morning News a révélé l’existence d’une série de témoignages de pilotes se plaignant de la fonction pilote automatique de ce modèle. L’Union européenne, la Chine puis les États-Unis ont pris la décision de clouer au sol tous les 737 MAX. Boeing a déclaré qu’il mettrait à jour le logiciel de navigation de l’avion.

Boeing avait installé le MCAS sur tous ses 737, nouveau modèle lancé en 2017, en arguant que les modifications étaient légères et qu’il n’était donc pas nécessaire de former les pilotes ou même de leur apprendre l’existence du nouveau logiciel –et de son nouveau mode manuel. Les principales autorités de contrôle des États-Unis et de l’Union européenne avaient validé cette décision.

Ces accidents sont riches d’enseignements. Ils nous rappellent que les vols commerciaux sont certes en grande partie automatisés, mais que les pilotes comprennent encore l’essentiel du fonctionnement des systèmes de navigation de leurs avions et savent quand et comment passer en mode manuel –notamment lorsque ces systèmes cessent purement et simplement de fonctionner, comme le montre le scoop du Dallas News.

On pourrait s’attendre à ce que cette technologie mâche le travail des pilotes. En fait, c’est tout le contraire: ils doivent emmagasiner plus de connaissances que jamais.
Steve Casner, pilote et chercheur en psychologie à l’Ames Research Center de la NASA

Les deux crash de 737 MAX pourraient bien être les exceptions qui confirment la règle, car de nos jours, la symbiose homme-machine rend les voyages aériens particulièrement sûrs. Depuis dix ans, une seule personne est morte dans un accident d'avion aux États-Unis.

Mais l’automatisation n’a pas rendu le travail des pilotes plus facile. C’est ce qu’explique Steve Casner, pilote et chercheur en psychologie à l’Ames Research Center de la NASA: «On pourrait s’attendre à ce que cette technologie mâche le travail des pilotes. En fait, c’est tout le contraire: ils doivent emmagasiner plus de connaissances que jamais.»

Impréparation des automobilistes

Casner –comme nombre d’autres pilotes et analystes– établit un parallèle entre l’automatisation des avions, mise en place il y a plus de trente ans, et l’arrivée des voitures autonomes, qui voit les automobilistes d’aujourd’hui confier à des autopilotes la mission de naviguer sur le bitume.

«L’histoire se répète; on se croirait de retour en 1983», raconte Casner. À l’époque, les compagnies aériennes avaient su tirer leur épingle du jeu, mais il estime que les fabricants automobiles vont eux un peu trop vite en besogne.

Selon lui, il est trop tôt pour installer des êtres humains dans des voitures équipées de technologies encore méconnues. «Ça m’inquiète, j’ai l’impression que nous allons faire une grosse erreur avec ces voitures, alors qu’il suffirait de marcher dans les pas du monde de l’aviation. L’être humain n’est pas fait pour rester planté derrière un volant comme une plante verte, à attendre que des voyants clignotent.»

Casner vient de cosigner un article avec Edwin Hutchins, chercheur en psychologie cognitive, intitulé «Que doit-on dire aux automobilistes? Vers des critères minimaux de formation pour les conducteurs d’automobiles semi-autonomes». Le texte explique notamment que si l’automatisation rend les vols commerciaux plus sûrs, c’est parce que les pilotes connaissent le fonctionnement de ces systèmes.

«Quelle que soit la conclusion des enquêtes [sur les crashs de 737 MAX], une chose est certaine: l’interface humain-machine sera l’un des facteurs», affirme Missy Cummings, ancienne pilote de chasse et directrice du Humans and Autonomy Laboratory à l'Université Duke.

Les véhicules autonomes l’inquiètent pour cette raison précise depuis des années. Leur technologie déconcentre les conducteurs et conductrices, qui ne comprennent pas ses capacités, restent sourdes à ses alertes, mais perdent aussi peu à peu leurs réflexes d’automobilistes et se retrouvent pris au dépourvu lorsqu’il s'agit de reprendre le contrôle du véhicule. Les pilotes qui s’appuient sur l’automatisation conservent leurs facultés motrices, mais on constate de leur part une difficulté croissante à prendre des décisions.

«L’automatisation créé un faux sentiment de sécurité, nous l’avons appris à nos dépens dans le monde de l’aviation, explique Cummings. N’importe qui peut avoir son permis de conduire, on ne peut pas dire que la barre soit placée bien haut. Il serait possible de mettre en place des formations spécialisées obligatoires, mais ça ne se fera pas –nous sommes trop paresseux. C’est pour ça que je suis contre l’autonomie de niveau 3. Les gens ne sont pas prêts, je ne leur fais pas confiance –sauf lorsqu’ils sont contrôlés tous les ans par l'administration fédérale de l'aviation

Droit à l'erreur

Il faut ici souligner qu’il existe une différence de taille entre les transports aériens et routiers: les airs demeurent beaucoup plus sûrs que la route. L’automobile demeure très dangereuse, pour les personnes au volant comme pour les piétons, si bien que les nouvelles technologies jouissent d’un droit à l’erreur beaucoup plus important.

Les systèmes de démarrage sans clé ont tué plus de vingt personnes –elles avaient laissé tourner le moteur dans leur garage et sont mortes des suites d’une intoxication au monoxyde de carbone–, mais aucun véhicule n’a été rappelé pour autant.

De la même manière, le constructeur Tesla, qui a vu deux personnes mourir à bord de ses véhicules après avoir embouti des camions alors que le mode pilotage automatique était activé, n’a pas été particulièrement inquiété.

Une démonstration du pilotage automatique de Tesla, dans le trafic de Los Angeles.

McGehee explique que ces technologies autonomes, qui seront introduites à grande échelle dans la plupart des modèles en 2019 (freinage d’urgence, avertisseurs de changement de voie, régulateurs de vitesse adaptables), feront malgré tout certainement baisser le nombre des accidents de la circulation.

Aux États-Unis, la réglementation fédérale n’exige pas de consigner les informations relatives aux systèmes d’assistance au conducteur en cas d’accident. Il est donc difficile d’étudier leur véritable impact. C’est certes un peu machiavélique, mais c’est ainsi: on ne fait visiblement pas d’utopie automatisée sans casser quelques pare-brises.

«Les robots font d’excellents conducteurs de secours pour êtres humains. En revanche, les êtres humains font de bien piètres conducteurs de secours pour robots.»
Costa Samaras, spécialiste des véhicules autonomes à l'Université Carnegie-Mellon

Selon la plupart des spécialistes des véhicules autonomes, les démarches visant à gérer la conduite de A à Z sans intervention humaine –c’est par exemple l’objectif du projet Waymo de Google– s’avéreront particulièrement bénéfiques pour la sécurité routière.

C’est la période intermédiaire qui va poser problème: il faudra que l’être humain s’adapte à cette nouvelle gamme de technologies. Peu d’entre elles sont parfaites, certaines requièrent notre supervision, aucune ne requiert de formation particulière.

Nécessaire sensibilisation

«Les robots font d’excellents conducteurs de secours pour êtres humains. En revanche, les êtres humains font de bien piètres conducteurs de secours pour robots», résume Costa Samaras, spécialiste des véhicules autonomes à l'Université Carnegie-Mellon. Mais au vu des milliers de morts par an dues à la conduite en état d’ivresse ou au refus du port de la ceinture de sécurité, autant voir la réalité en face: la sensibilisation aux technologies autonomes ne fera sans doute jamais partie des priorités.

En un sens, l’industrie automobile a toujours procédé ainsi. Chrysler a lancé son «pilotage automatique» en 1958, une technologie qui permettait de «conduire sans appuyer sur la pédale» –argument publicitaire visant alors les femmes. C’est ce que nous appelons aujourd’hui un régulateur de vitesse.

Lorsque l’on résume leur raison d’être –appuyez sur un bouton, et votre voiture fera du 110 km/h–, les régulateurs de vitesse semblent affreusement dangereux. Mais lorsqu’on y songe, il est difficile d’imaginer un long trajet sur autoroute sans eux. Et soixante ans plus tard, qui peut se vanter de savoir comment ils fonctionnent?

En ce moment

Le nouvel algorithme de Tinder, avoir confiance en son VPN et la tristesse du free-to-play, une semaine sur korii

Et Cætera

Le nouvel algorithme de Tinder, avoir confiance en son VPN et la tristesse du free-to-play, une semaine sur korii

Séance de rattrapage des articles que vous avez peut-être ratés.

Instagram, plus grand centre commercial du monde

Biz

Instagram, plus grand centre commercial du monde

L'application permet désormais d'acheter des vêtements sans passer par le site du fournisseur.

Passez votre réseau LinkedIn au filtre Marie Kondo

Et Cætera

Passez votre réseau LinkedIn au filtre Marie Kondo

Après avoir frappé sur Twitter, elle revient sur le réseau social professionnel –et la pitié est interdite.