Après la mort de George Floyd, sous la pression de la rue et des associations de défense des libertés, Amazon a annoncé jeudi qu’il interdisait à la police américaine d'utiliser son logiciel de reconnaissance faciale, accusé de cibler les noirs américains.

La technologie de reconnaissance faciale est basée sur des algorithmes. Elle ne fait pas consensus chez les scientifiques
La technologie de reconnaissance faciale est basée sur des algorithmes. Elle ne fait pas consensus chez les scientifiques © AFP / FANATIC STUDIO / SCIENCE PHOTO L / FST / Science Photo Library

La technologie peut-elle être source de discrimination ? Depuis la mort de Georges Floyd, les manifestants et les associations de défense des libertés appellent entre autre à interdire la technologie de la reconnaissance faciale. Sous la pression de la rue, IBM a suspendu les ventes de son logiciel lundi et ce jeudi, c’est au tour d'Amazon. Le géant du commerce en ligne fournit un logiciel "Rekognition" à la police américaine. Il vient d’interdire son utilisation pendant un an. "Nous espérons que ce moratoire d'un an donnera au Congrès suffisamment de temps pour mettre en place des règles appropriées", indique Amazon dans un communiqué, en référence à la loi demandée par les Démocrates de la Chambre des représentants américains. Loi qui vise à "changer la culture" au sein de la police des États-Unis.

Mais comment la reconnaissance faciale peut-être elle raciste ? Cette technologie est utilisée par la police américaine pour identifier des suspects, en se basant sur une photo ou une vidéo. Mais parfois, cette technique peut mener à l’arrestation d’innocent et les erreurs touchent souvent la communauté Afro-américaine.

Manque de diversité chez les programmeurs

Cela s’explique par la manière dont les logiciels de reconnaissance faciale sont créés. Les informaticiens développent des algorithmes capables de trouver l’identité de quelqu’un par rapport à une image. Pour créer cet algorithme, ils mettent en avant certains traits du visage, sans prendre particulièrement en compte les spécificités des visages de couleur. Les scientifiques utilisent des recherches et des données préexistantes majoritairement réalisées par des chercheurs blancs. Le travail est donc orienté vers la reconnaissance des visages blancs et ensuite testés sur… des blancs. 

Résultat, la reconnaissance faciale détecte mal les visages noirs. Et plus la carnation est foncée, plus le taux d’erreur monte. Jusqu’à 35% selon une étude réalisée aux Etats-Unis par le MIT et Microsoft en 2018. Si la police américaine doit être réformée sur la question des discriminations, le secteur de la reconnaissance faciale doit lui réfléchir au manque de diversité parmi ses chercheurs. 

Ce contenu n'est pas ouvert aux commentaires.