L’UNESCO vient de publier une étude sur les assistants vocaux, ces appareils qu’on pilote à la voix et auquel on demande de mettre de la musique, d’allumer la lumière ou de lancer France Inter. Fondées sur l’intelligence artificielle, ces machines sont pour le moment assez bêtes et en plus, on l’apprend, misogynes.

L'assistant vocal de chez Amazon : Alexa
L'assistant vocal de chez Amazon : Alexa © AFP / Maxime Reynie / Hans Lucas

Vous pouvez paramétrer ces assistants en leur donnant une voix de femme. L’UNESCO rapporte que si vous dites à la machine qu’elle est, par exemple, une traînée (je reste poli), elle vous répond que si elle pouvait, elle rougirait. Cette réponse a depuis été corrigée mais, dans les interactions, dans la manière dont elle est programmée pour répondre, la machine reproduit une forme d’asservissement, « un modèle d'acceptation et de tolérance du harcèlement sexuel et de la violence verbale ». Car elle ne fait pas de distinction quant au ton de la voix, au choix des mots qui lui sont adressés, et elle accepte donc la violence. En plus d’être toujours disponible au doigt et à l’œil, y compris pour faire des courses en supermarché virtuel.

La cause, selon l’UNESCO, est simple : ce sont des hommes qui produisent les algorithmes et programment ces machines. La sous-représentation des femmes dans les milieux informatiques et numériques est un phénomène ancien dont on peut voir là l’un des effets inattendus.

L'équipe
Contact
Ce contenu n'est pas ouvert aux commentaires.