Dans un rapport, présenté ce vendredi en présence du secrétaire d'État au Numérique Mounir Mahjoubi, la Commission nationale de l'informatique et des libertés cherche comment éviter que les algorithmes et l'intelligence artificielle n'aient une influence négative sur la société.

La CNIL s'inquiète des dérives possibles des algorithmes et de l'intelligence artificielle
La CNIL s'inquiète des dérives possibles des algorithmes et de l'intelligence artificielle © Maxppp / Christophe Morin

Pas de panique, nul besoin d'être mathématicien ou informaticien pour comprendre la question posée par la CNIL. On pourrait la résumer ainsi : "comment permettre à l'homme de garder la main ?", dans une période où notre vie en ligne mais aussi celle de tous les jours est influencée par ces "suites d'instructions permettant d'aboutir à un résultat à partir de données en entrée" (selon la définition que donne la CNIL des algorithmes).

Les algorithmes définissent notamment les résultats que vous obtenez sur un moteur de recherche (à partir de votre historique de navigation sur internet, en premier lieu), mais peuvent aussi fournir "un diagnostic médical, conduire une voiture d'un point à un autre, ou détecter des suspects de fraude parmi les allocataires de prestations sociales"... Que du concret.

► DOCUMENT | Lire le rapport sur le site de la CNIL

D'où la nécessité d'y associer des éléments moins mathématiques, mais plus humains. La CNIL lance ainsi plusieurs pistes pour éviter que les algorithmes ne deviennent trop "inhumains", à mesure qu'il prennent de l'importance.

Mieux expliquer et mieux former

Pour la Commission, la formation est au cœur d'une meilleure utilisation des algorithmes. Celle des citoyens eux-mêmes, "dès l'école et jusqu'à l'université" pour bien leur faire comprendre leurs enjeux, leur fonctionnement et leurs conséquences. Que chacun sache bien, par exemple, que les réponses à ses questions sur Google ne sont pas données comme par magie mais en fonction de multiples critères (qui ne sont pas infaillibles).

À l'inverse, la CNIL estime qu'il faut aussi former les concepteurs d'algorithmes aux questions éthiques et sociales, afin qu'ils soient conscients de l'impact concret que peut avoir leur travail et qu'il le prenne en compte. La Commission s'inquiète aussi du manque de diversité "culturelle, sociale et de genre" de ces professionnels, et estime notamment qu'une féminisation de ces métiers est essentielle : bref, que les algorithmes ne soient pas seulement conçus par des hommes, au risque de l'être seulement pour des hommes.

Des algorithmes éthiques "made in France"

Enfin, la CNIL s'interroge sur la formation des acteurs publics à l'utilisation d'algorithmes. Notamment en terme d'image : par exemple, en ne communiquant pas seulement sur leurs applications "répressives" (comme la recherche de fraudes) mais aussi sur leur utilisation positive (détecter facilement les personnes qui n'ont pas recours à des aides sociales auxquelles elles ont droit).

Dans le même esprit, la CNIL souhaite aussi la création d'une "plateforme nationale d'audit des algorithmes", qui permettrait de contrôler leur conformité à la loi (par exemple en évitant qu'ils intègrent des données discriminatoires), et le développement de la recherche sur des "intelligences artificielles éthiques", où la France pourrait être en pointe. Par exemple en développant l'accès des chercheurs à des données, tout en faisant de la protection des données personnelles une priorité.

En somme, développer une alternative aux méthodes des géants du numérique comme Google ou Facebook, dont les algorithmes sont particulièrement complexes et opaques, et orienter les citoyens vers des systèmes aussi efficaces, mais plus respectueux de leurs droits.

Ce contenu n'est pas ouvert aux commentaires.