En cinq mois, deux Boeing 737 max se sont écrasés peu après leur décollage. Que disent-ils sur notre rapport à l'informatique, aux machines et à leur infaillibilité ?

Parfois, je suis assez étonné par le traitement médiatique des questions technologiques. À longueur d’articles, de reportages et de JT, on nous parle d’innovations fascinantes, d’intelligence artificielle en voie de nous surpasser, de remplacement des humains par des robots ou encore de transhumanisme. Ok. 

Et puis, "sans transition", on va évoquer l’enquête en cours pour déterminer les causes de deux accidents d’avions qui ont eu lieu en l’espace de cinq mois : deux Boeing 737 Max, l’un d’Ethiopian Airlines, l’autre de Lion Air (une compagnie indonésienne) qui se sont écrasés peu après leur décollage, faisant au total 346 victimes. Comme si tout ça n’avait rien à voir. 

Or, on ferait bien de penser ensemble toutes ces questions, ça nous permettrait de comprendre un peu mieux notre monde.

Que s’est-il passé avec ces deux avions, si l’on en croit les premières conclusions de l’enquête ? Il s’agit vraisemblablement d’un problème logiciel - d’ailleurs Boeing a annoncé garder au sol tous les ses 373 Max 8 et 9 afin d’effectuer une mise à jour des logiciels et prendre le temps de les tester. Sans entrer dans les détails, on soupçonne le logiciel d’avoir mal interprété des données fournies par des capteurs et d’avoir automatiquement fait piquer du nez les avions, sans que les pilotes ne parviennent à rétablir la ligne de flottaison. C’est sans doute beaucoup plus compliqué que le résumé que je vous fais là, mais la conclusion est brutale : un problème logiciel a causé en cinq mois la mort de 346 personnes. 

Pourquoi ça devrait nous faire réfléchir ?

Parce que les programmes qui sont dans les avions (on appelle ça “l’informatique embarquée”) font partie de ceux pour lesquels les contraintes de sécurité sont évidemment les plus élevées. Et pourtant, on ne peut jamais être certain qu’ils ne contiennent aucun bug. Les paramètres sont tellement nombreux qu’il est presque impossible d’être sûr qu’ils fonctionneront bien dans tous les cas, car ces cas sont trop nombreux pour être testés a priori.  

Cela illustre un aspect de l’informatique qu’on oublie souvent. Les programmes informatiques sont parmi les constructions humaines les plus complexes. Comme me le disait un jour un éminent professeur d’informatique : il est beaucoup plus facile de construire un pont qu’un logiciel informatique. Un pont, ce sont quelques équations, un logiciel ce sont des millions de lignes de codes qui sont interdépendantes. 

Vivre avec les machines, c’est vivre avec tout ce qu’elles nous apportent (et dans l’aéronautique, leurs apports sont indéniables, y compris en termes de sécurité). Mais c’est vivre aussi avec leur faillibilité

À mesure que notre vie devient plus dépendante de l’informatique, à mesure que l’on accepte de déléguer des prises de décision aux ordinateurs, à mesure justement que l’intelligence artificielle, les robots et toutes ces innovations dont on nous parle avec des étoiles dans les yeux, vont prendre une part plus grande dans nos vies, il faut s’attendre à éprouver encore la faillibilité de l’informatique. Une faillibilité rare, certes, contre laquelle se mobilise l’intelligence humaine, mais qui, quand elle surgit, prend les atours d’une nouvelle fatalité. C’est ça aussi que racontent ces accidents d’avion. 

Alors évidemment, je ne dis pas que nous autres journalistes devons faire flipper tout le monde dès qu’une défaillance se présente, ni même que nous devions nous prendre pour des philosophes. J’aimerais juste que les questions technologiques soient traitées pour ce qu’elles sont : des questions de société. 

  • Légende du visuel principal: Avion au-dessus de la ville © Getty
L'équipe
Ce contenu n'est pas ouvert aux commentaires.