Deepfakes pornographiques : comment se protéger de ces fausses vidéos ?

Vous avez sans doute entendu parler des deepfakes. Ces fausses vidéos très réalistes dans lesquelles on remplace le visage d’une personne par une autre grâce à l’intelligence artificielle pour lui faire dire n’importe quoi. Sur les réseaux sociaux, ces contenus se multiplient. Des escrocs détournent les visages de célébrités pour nous piéger. Kylian Mbappé, Elise Lucet, Alain Delon ou encore Florent Pagny ont été victimes de ces manipulations pour faire la promotion d’arnaques financières ces derniers mois.

On parle aussi souvent des dangers des deepfakes pour la démocratie, des risques de manipulation de l’opinion. On se souvient des faux discours de Barack Obama, Emmanuel Macron ou Volodymyr Zelensky, notamment. Mais il y a une autre facette, moins médiatisée, et pourtant bien plus massive. En réalité, l’écrasante majorité des deepfakes produits à travers le monde sont des montages pornographiques. 96%, précisément. Et dans la quasi totalité des cas, ils ciblent des femmes. Les célébrités comme les anonymes.

Aujourd’hui, créer ce genre de contenu est presque un jeu d’enfant. Grâce aux outils d’intelligence artificielle, il suffit d’une ou deux photos, souvent volées sur les réseaux sociaux. Pas besoin d’être un expert, ni d’avoir des heures d’images. En quelques clics, on peut superposer le visage d’une collègue, d’une ex ou d’une camarade de classe sur une vidéo pornographique.

Une nouvelle forme de cyberviolence qui vise toutes les femmes

Et le phénomène s’est structuré  : des communautés entières se sont formées sur Internet, sur des forums et des messageries privées. Des amateurs de deepfakes porno y échangent leurs créations, leurs méthodes et leurs astuces, comme on se partagerait des recettes de cuisine.

À lire aussi

Lot-et-Garonne

Lot-et-Garonne : une commune de 5.000 habitants piratée par un cartel malaisien

Le résultat, c’est une nouvelle forme de harcèlement numérique pour les femmes. La chanteuse Taylor Swift, la vidéaste Lena Situations et la journaliste Salomé Saqué en ont notamment fait les frais ces derniers mois. Mais le phénomène touche aussi les plus jeunes. Au début du mois de mars, une douzaine de collégiennes scolarisées dans la Manche ont vu de deepfakes sexuels à leur effigie circuler sur les réseaux sociaux. L’an dernier, 20 adolescentes espagnoles avaient reçu des deepfakes porno d’elles mm peu après la rentrée scolaire. Les témoignages se multiplient. 

Les deepfakes sexuels sont aussi souvent utilisés dans les affaires de revenge porn et de sextorsion, ces chantage visant à obtenir des images intimes. En France, l’office des mineurs (Ofmin) a constaté que les signalements liés à ces pratiques ont été multipliés par 2 l’an dernier.

Pour les victimes, les conséquences sont dévastatrices : honte, dépression, isolement, réputation brisée, parfois perte d’emploi… Passé la surprise, la diffusion de ces images peut provoquer de violents traumatismes sur le long terme, souvent doublés d’un sentiment d’impuissance face à la viralité du Web. Car une fois les vidéos en ligne, il est presque impossible d’en reprendre le contrôle

La loi commence à s'adapter

Alors, comment lutter ? Aujourd’hui, la loi commence à peine à s’adapter.  Depuis l’'an dernier, la création d’un deepfake pornographique est passible de 3 ans de prison et de 75.000 euros d’amende. Mais les premières procédures sont toujours en cours d'instruction. Pour aller plus loin, des députés ont proposé récemment de renforcer le régime de sanctions pour aggraver les peines si les montages visent des mineurs de moins de 15 ans. Le texte entend aussi pénaliser la création et la mise à disposition de logiciels ou d’applications pour créer ces deepfakes.

En attendant, quelques gestes peuvent aider à se prémunir de ce fléau, même s’il est impossible de le prévenir à 100%. La première chose à faire est d’éviter de publier trop de photos de soi sur les réseaux sociaux. Ne donnez pas aux auteurs de deepfakes la matière première dont ils ont besoin. Pensez aussi à paramétrer vos comptes en privé, pour garder le contrôle sur qui peut voir vos contenus…  Les parents, eux, doivent absolument parler de ces risques avec leurs enfants. Faire comprendre que chaque photo partagée peut être détournée.

Et si vous êtes un jour confronté à ce type de vidéo, agissez vite.  Signalez le contenu aux plateformes. Prenez des captures d’écran pour garder des preuves à transmettre à la police. Ne pas hésiter, aussi, à porter plainte, même si les procédures peuvent être longues. Des associations comme Stop Fisha ou le 3018 peuvent vous épauler dans les démarches. Enfin, sachez que l’association Point de Contact a mis au point un outil nommé Disrupt pour aider les victimes à faire supprimer ces contenus des réseaux sociaux et des sites pornographiques. 

Retrouvez "La règle d'or numérique", chaque dimanche, dans le flux "Ça peut vous arriver"

Retrouvez chaque semaine (l’inimitable) "Règle d’or" en podcast… et désormais son pendant Numérique consacré aux problèmes du quotidien en ligne. Comment naviguer en toute sécurité sur Internet ? Quelles sont les réglages à paramétrer pour protéger vos données personnelles ? Comment repérer les arnaques en ligne avant de tomber dans le panneau… Benjamin Hue, journaliste à RTL, répond ici aux questions que vous vous posez tous les jours sur les nouvelles technologies.