Alors que la justice se numérise -enfin!- elle est aussi bousculée par l'informatique. Aux Etats-Unis, les algorithmes aident déjà à décider de qui doit aller en prison.

Il y avait le flair du policier et l'expérience du juge, voici l'algorithme qui calcule pour un malfaiteur le risque de fuite, ou de récidive. Angèle Christin, ethnologue et sociologue, est partie étudier aux Etats-Unis cet aspect de ce qu'on appelle la justice prédictive. Elle est venue en parler cette semaine au colloque organisé par l'INHESJ, l'institut national des hautes études de la sécurité et de la justice sur "le défi de l'algorithme".

Prenez un prévenu, remplissez un questionnaire : âge, casier judiciaire... et des réponses à des questions plus personnelles: "est-ce que vos amis ont déjà eu des problèmes avec l'alcool ou la drogue? Est-ce que vos parents connaissent vos amis?"... Cliquez sur l'un des nombreux logiciels qui équipent la justice américaine, et vous obtenez un score, qui va de 1, risque très faible, à 10, risque élevé de fuite ou de récidive . A 10 évidemment, vous avez peu de chance de bénéficier d'un contrôle judiciaire ou d'une libération conditionnelle:

"Les procureurs et ensuite les juges à partir de cela prennent une décision: est-ce qu'on va incarcérer cette personne ou pas? Cela se passe avant, pendant, et après le procès. Au niveau de ce qui s'appelle la probation, à nouveau vous allez avoir un score qui dit quel est votre risque de récidive, et en fonction soit on vous relâche de prison, soit vous y restez. L'idée c'est que le jugement subjectif est biaisé, et aux Etats-Unis de même qu'en France c'est assez avéré, c'est-à-dire que le système pénal discrimine notamment les Africains-Américains depuis plus d'un siècle. L'idée c'est de dire, écoutez, on a un problème de discrimination, et on se dit que les algorithmes ne peuvent pas faire pire que les humains. On a l'idée d'une justice automatisée, et d'un côté on se dit ce sera standardisé donc peut-être mieux, parce que cela permettra d'enlever les pires abus, mais de l'autre cela diminue le rôle de l'humain et cela évoque le spectre d'un remplacement de l'humain par les machines.

Cela fonctionne pour vous aux Etats-Unis, c'est vraiment une aide pour la justice ?

Je pense qu'en ce moment aux Etats-Unis il y a une ouverture pour réformer le système pénal. Il y a de plus en plus un consensus entre la gauche et la droite, même s'il a été un peu remis en cause dans les derniers mois, pour vider les prisons. Ceci dit, je pense aussi qu'en ce moment, du fait de l'attrait des big data, des algorithmes, de la révolution numérique, cette volonté de changement passe par le fait d'utiliser ces outils, qui soulèvent plus de problèmes qu'ils n'en résolvent. Et donc cela me désole un peu de voir autant d'attention portée aux algorithmes prédictifs plutôt qu'à un travail politique plus lent peut-être, et moins sexy, d'aller réformer les juridictions, d'aller réformer la législation, pour essayer notamment de mettre fin à toute la législation sur la consommation de drogue qui est le moteur principal de la discrimination contre les Noirs dans le contexte américain."

Une justice rendue par des machines ?

Ce n'est sans doute pas ce que l'avenir nous réserve. Les humains font déjà de la résistance. Angèle Christin observe que les magistrats américains n'aiment pas être dépossédés de leur travail, et qu'ils n'accordent pas tant d'importance aux résultats que sort le logiciel, sauf si cela peut les aider dans une négociation avec les avocats. De leur côté les travailleurs sociaux, qui remplissent les questionnaires, ont appris à influencer les résultats, en orientant certaines réponses.

La critique faite actuellement aux algorithmes, c'est qu'en se basant sur les données statistiques disponibles, ils ne peuvent que reproduire les discriminations. Par exemple, si vous venez de tel ou tel quartier "sensible", votre probabilité de récidive apparaîtra plus importante...

Par ailleurs l'exploitation numérique des décisions de justice permet de faire ressortir des différences de traitement entre tribunaux. Elle peut aussi permettre de "prémâcher" le travail des magistrats, à partir des jugements disponibles dans la base. Est-ce qu'on va pour autant vers une justice plus efficace, plus rapide et plus impartiale ? Si on se fie à l'exemple américain, on en est loin...

Mots-clés :
Nous contacter
Ce contenu n'est pas ouvert aux commentaires.