Facebook a annoncé, mardi, qu'il allait intensifier sa lutte contre les vidéos "deepfake", modifiées par intelligence artificielle. Très difficiles à repérer, ces fausses vidéos sont particulièrement redoutées à quelques mois de l'élection présidentielle américaine.

Facebook accentue sa lutte contre les "fake news" à quelques mois des élections américaines.
Facebook accentue sa lutte contre les "fake news" à quelques mois des élections américaines. © AFP / Denis Charlet

C'est en quelque sorte le renouveau des fake news : les "deepfakes" sont la nouvelle cible de Facebook, qui a annoncé ce mardi sur son blog son intention de bannir définitivement ce type de vidéos de ses plateformes. Désormais, toute vidéo de ce type sera supprimée, purement et simplement. L'objectif est simple : lutter contre la prolifération de fausses informations ou de faits détournés, régulièrement reprochés à Facebook. Le réseau social est accusé d'avoir biaisé la dernière présidentielle américaine en raison de la forte présence de ces faux contenus.

C'est quoi, déjà, un deepfake ?

Le "deepfake" est une technique utilisant un algorithme pour remplacer un visage par un autre. L'intelligence artificielle est nourrie de nombreuses photos et vidéos de la personne dont on veut "coller" le visage. Ainsi, image après image, l'algorithme remplace le visage existant par celui qu'on lui a "enseigné". Grâce à cette intelligence artificielle, on peut créer, presque en temps réel, une fausse vidéo, et faire dire ce que l'on veut à qui l'on veut. 

Pourquoi ces vidéos sont-elles potentiellement dangereuses ?

Parce que cette technique, de plus en plus facile à manipuler, permet d'obtenir des résultats particulièrement vraisemblables. Sur des vidéos compressées, de qualité moindre destinées au web, la manipulation est presque invisible. Initialement utilisée à des fins humoristiques, elle s'est petit à petit développée dans des domaines plus sensibles : la pornographie, pour coller sur des images choquantes le visage de personnalités publiques, par exemple ; et la politique, où il devient possible de faire dire n'importe quoi à un représentant politique, comme, ici, Barack Obama.

Résultat : certains représentants sont tombés dans leur propre piège, comme l'Italien Matteo Renzi, qui s'est d'abord amusé d'une séquence télévisée le faisant intervenir en "deepfake", avant de présenter ses excuses, disant ne pas avoir saisi la portée du montage, qui avait été pris au premier degré par de nombreux téléspectateurs. 

Ainsi, à quelques mois de la campagne électorale américaine, Facebook, accusée d'avoir biaisé l'élection 2017 à cause de la déferlante de "fake news", et de refuser de bannir les publicités politiques lors des futures campagnes électorales, même au risque de diffuser de fausses informations, tente de rassurer les citoyens américains ainsi que les institutions : la vice-présidente de la stratégie Monika Bickert est attendue pour une audition devant la Chambre des représentants, où elle sera justement interrogée sur la présence des deepfakes sur la plateforme. L'opération est donc pour Facebook une façon d'anticiper de nouveaux reproches. 

Comment va procéder Facebook pour les supprimer ?

Par nature, les deepfakes sont particulièrement difficiles à repérer. On ne connait pas le mécanisme exact qui permettra à Facebook de détecter qu'une vidéo fait intervenir cette technique, mais l'interdiction annoncée par Facebook ce mardi est l'aboutissement de plusieurs mois de recherche et de travail pour améliorer la détection de ces vidéos : en septembre dernier, Facebook avait lancé un "deepfake detection challenge", destiné à "encourager l'industrie" à chercher des outils de détection de ces vidéos trompeuses. 

Quelles vidéos sont concernées ? 

Pour qu'une vidéo soit concernée par la nouvelle mesure de Facebook, il faudra qu'elle remplisse deux critères : il faudra qu'elle fasse appel à une technique d'intelligence artificielle qui "mélange, remplace ou superpose une contenu" pour le faire paraître "authentique", et pour faire passer un message que la personne à l'image n'a jamais prononcé. 

Seules les vidéos ouvertement humoristiques, comme les parodies, auront le droit de subsister sur Facebook - comme par exemple les émissions télévisées. En France, l'émission "C'est Canteloup" a déjà utilisé cette technique. 

Par ailleurs, si une vidéo est découpée ou montée pour supprimer des mots ou changer leur ordre, cela ne rentre pas dans les critères concernés. Ainsi, une vidéo de la présidente de la Chambre des représentants américaine Nancy Pelosi, ralentie pour faire croire qu'elle était ivre, ne sera pas supprimée au titre que ce n'est pas un deepfake

En revanche il n'y aura pas de distinction sur le fond : une "fake news" malveillante sera supprimée au même titre que la vidéo d'une ONG - comme celle de Solidarité Sida qui faisait dire à Donald Trump que le Sida était vaincu.

En revanche, cette nouvelle règle ne se substitue pas aux règles déjà existantes : les vidéos allant à l'encontre "des standards de la communauté" continueront à être modérées, de même que les "fake news" seront toujours ciblées par un programme de vérification mené avec des grands médias (comme Le Monde, en France). 

Est-ce si facile de réaliser un deepfake ?

Oui... mais non. Aujourd'hui, de nombreux logiciels permettent très facilement de coller un visage sur celui de quelqu'un d'autre. Même Snapchat s'est lancé dans des filtres utilisant une technologie similaire à celle du deepfake. 

Mais ces applications-là ne présentent pas la même puissance de calcul que les serveurs utilisés pour concevoir les "vrais" deepfakes. On les appelle "cheapfakes", car les vidéos sont de bien moindre qualité, et beaucoup plus faciles à détecter. Celles-ci ne seront pas concernées par les interdictions sur Facebook. 

Ce contenu n'est pas ouvert aux commentaires.