Le 5 février 2041, un immense carambolage de voitures autonomes fait 50 morts et 100 blessés. Dans le cadre de la Nuit du Droit, magistrats, avocats et juristes ont organisé le 4 octobre le faux procès de l'intelligence artificielle.

Le faux procès de l'Intelligence artificielle s'est tenu à la cour d'appel de Paris
Le faux procès de l'Intelligence artificielle s'est tenu à la cour d'appel de Paris

Tout y est : la majestueuse salle de la première chambre, au vieux Palais de justice de Paris, sur l'île de la Cité. Sous les lustres et les dorures, avocats en robe noires et magistrats en robes rouges entrent en scène face à un public très nombreux. Pourtant, tout est faux. En partenariat avec les éditions Dalloz, l'association Jurisnautes a tout imaginé. D'abord, ce terrible fait divers : le 5 février 2041, les routes sont couvertes de verglas. Tout le monde roule en voiture autonome depuis 5 ans. Mais un homme appuie sur le bouton d’urgence de sa voiture. Le carambolage qui suit fait  50 morts. Le drame bouleverse la France entière, qui ne fait plus confiance à ces engins qui ont révolutionné la mobilité.

En 2041, tout le monde se déplace en AutoNom : les personnes âgées, les enfants, les mal-voyants... Plus besoin de permis de conduire, pendant le trajet on peut lire, dormir, travailler ou faire du sport. Le nombre de morts sur les routes est passé de 3000 par an à moins de 100. Voilà pour le contexte, pas si éloigné que ça de la réalité :  les plus grands constructeurs automobiles sont bel et bien lancés dans la course à la voiture autonome, dans laquelle Google a une bonne longueur d'avance. Mais ce progrès technologique annoncé s’accompagne de sacrés questionnements. 

Une intelligence artificielle nommée Eureka

C'est l'enjeu de ce faux procès. Sont jugés Célestin Vigi, le passager-conducteur : voyant une voiture autonome foncer sur la sienne, il a appuyé sur le bouton d’urgence censé arrêter le véhicule, une manoeuvre qui a entraîné l’accident. Egalement renvoyée, l’intelligence artificielle qui régit la circulation des voitures, nommée Eureka. Eureka a-t-elle pris une mauvaise décision, Mr Vigi a-t-il une part de responsabilité, qui doit indemniser les victimes ? Voilà les questions posées à la Cour, composée d'un vrai magistrat - Valéry Turcey, l'ancien patron de l'Union syndicale des magistrats - de deux professeures de droit, Nathalie Martial-Braz et Célia Zolynski, et de six jurés. 

Certes, Eureka n’a pas de conscience morale, explique la représentante du parquet, mais c’est une intelligence avancée qui génère ses propres lignes de codes, et prend donc des décisions… L’accusation demande sa dissolution : une sorte de peine de mort pour les machines. Peut-on juger un robot ? Une intelligence artificielle est-elle une personne? Pour éclairer la cour, de vrais experts défilent à la barre. Arnaud de la Fortelle, cité par la défense, est professeur à l'éciole des Mines Paris Tech. 

Le robot est-il une personne?

"En robotique, on oscille toujours entre deux extrêmes : Terminator et Wall-E. Le petit robot sympa mais pas très fute-fute, et le robot hyper intelligent, mais pas sympa du tout. La vérité, c'est qu'on est ni dans l'un, ni dans l'autre. On n'est pas du tout aussi avancés que ça. La réalité de l'intelligence artificielle, ce sont des algorithmes qui traitent des volumes inimaginables de statistiques, des milliards et des milliards de données, pour produire des décisions selon des algorithmes d'optimisation. Tout de suite, c'est moins effrayant." Le chercheur estime qu'on est encore très loin du temps où une intelligence artificielle pourra être considérée comme une personne... Même si cela viendra forcément un jour, quand la robotique croisera la biologie.

En attendant, la cour a entendu les arguments de la défense d'Eureka. Jean-Baptiste Crabières, magistrat dans la vraie vie, endosse le rôle avec fougue. "Votre cour se déshonorerait en prononçant une peine de mort!" tonne-t-il en tapant sur son pupitre. "Eureka n'est pas capable de vouloir, cela n'a pas de sens! Civilement, nous sommes responsables, nous allons donc payer. Mais pénalement ce n'est de la faute de personne!" 

Rééducation algorithmique

Et l'avocat d'un soir de conclure sous les rires de l'assistance : "Méfiez vous de la science-fiction, ne faites pas d'anthropomorphisme. Non, les renards ne sont pas des petits filous, et non, l'intelligence artificielle ne veut pas nous faire de mal, ni conquérir le monde." Eureka échappe donc au pire, l'intelligence artificielle est tout de même condamnée à une "rééducation algorithmique" avec mise à l'épreuve. La société qui l’a conçue devra payer les dommages et intérêts, le passager-conducteur Celestin Vigi est relaxé.  

Les enjeux juridiques de l’intelligence artificielle ne seront bientôt plus de la fiction. Alors pour s'y préparer, les actes de ce faux procès seront publiés en novembre par les éditions Dalloz.

L'équipe
Ce contenu n'est pas ouvert aux commentaires.