Mardi, la CNIL a fait savoir qu’elle s’opposait à la mise en place de systèmes de reconnaissance faciale dans les lycées. C’est indéniable : les algorithmes font partie de nos vies. Mais sont-ils compatibles avec l’éthique, avec nos libertés ?

Les technologies de l’intelligence artificielle jouent un rôle central dans notre quotidien, sans que l’on s’en rende toujours compte. Les smartphones deviennent capables de reconnaître notre visage, les caisses de supermarché sont de plus en plus automatisées, et on peut appeler un taxi ou commander une pizza en un clic… 

Mais toute technologie comporte aussi des risques, intrinsèques, pas toujours contrôlables. Cette IA, est-elle vraiment éthique ? Pas toujours, si on en croit une décision rendue par la Cnil avant-hier. Elle a estimé que l’installation de dispositifs de reconnaissance faciale dans des lycées, voulue par l’Etat pour contrôler les entrées des élèves, n’était « ni nécessaire, ni proportionnée » - et certains hommes politiques, comme Christian Estrosi qui défendait ce projet, ont estimé que c’était une décision « bloquée au XXème siècle »…

L’intelligence artificielle ne s’arrête pas aux portes des écoles. Deepfake sur Internet – ces vidéos où l’on peut faire dire n’importe quoi à n’importe qui -, contrôles à la douane des aéroports… Ces technologies sont en passe de devenir invasives. Avec le risque, finalement, de contrevenir aux libertés individuelles. 

Face aux débats, les institutions commencent à se saisir de la question, à vouloir mettre des garde-fous pour préserver les citoyens. Hier avait lieu à Paris un sommet consacré à une IA morale « et responsable », sous l’égide du président Macron.
En avril dernier, la Commission Européenne a fait connaître ses recommandations pour une IA éthique, parmi lesquelles le respect de la vie privée, le contrôle par les humains… Mais seront-elles respectées ? 

L’intelligence artificielle a quelque chose de fascinant, mais aussi quelque part, de dangereux. Comment peut-on concilier ces technologies nouvelles avec les libertés individuelles ? Jusqu’où ces algorithmes vont-ils s’infiltrer dans notre quotidien ? Faut-il réguler l’IA ? Est-ce vraiment possible ? 

Les invités
  • Arthur MessaudJuriste pour la Quadrature du Net (association de défense des droits et libertés fondamentales à l'ère du numérique)
  • Laurence DevillersChercheuse au CNRS et maître de Conférences HDR en informatique
L'équipe
Ce contenu n'est pas ouvert aux commentaires.