Taylor Swift peut-elle vaincre les deepfakes pornographiques ?

L'affaire est symptomatique des défis posés par la démocratisation de l'intelligence artificielle générative. Elle pourrait marquer une prise de conscience contre un fléau qui vise quasi-exclusivement les femmes.

Taylor Swift a fait l'objet de deepfakes pornographiques, des montages photo et vidéo de synthèse ultraréalistes générés grâce à l'IA et diffusés sur les réseaux sociaux. Les contenus seraient issus d'un groupe Telegram spécialisé dans la création de montages sexuels de femmes. L'une des images mettant en scène la star américaine a notamment été vue près de 50 millions de fois sur X, où elle est restée accessible quasiment 24 heures avant d'être supprimée, suscitant l'effroi chez les millions de fans de l'artiste la plus écoutée au monde en 2023.

L'incident a poussé les "swifties" à se mobiliser pour contrer la prolifération de ces deepfakes. Les fans ont publié massivement le message écrit en lettres majuscules : "PROTECT TAYLOR SWIFT" avec des extraits de concerts de l'artiste pour noyer les contenus explicites. Plus de 200.000 publications de soutien ont été recensées durant le week-end, dans un mouvement de protestation général contre les deepfakes porno de femmes

La Maison-Blanche veut pousser le Congrès à adopter une loi fédérale contre les deepfakes porno

Cette affaire met à nouveau en lumière l'incapacité des plateformes, notamment X, à agir contre la désinformation, un phénomène qui s'est accéléré avec l'émergence de l'intelligence artificielle générative. Un constat qui a mis en émoi la classe politique américaine en pleine course à la présidentielle. 

La Maison-Blanche a demandé au Congrès de légiférer pour protéger les personnes qui seraient victimes de ce type de vidéos pornographiques générées par l'IA. Pour l'heure, une dizaine d'États américains ont déjà pris des mesures en ce sens mais aucune loi fédérale ne criminalise la diffusion de deepfakes. Les plateformes ont également été sommées d'agir plus vite pour lutter contre la diffusion de ces images.

Face à la polémique, X, le réseau d'Elon Musk, a fini par retirer les images controversées, de fermer les comptes impliqués dans leur diffusion et de bloquer toutes les recherches liées au nom de la chanteuse. "Une mesure temporaire, prise avec énormément de prudence, car nous accordons la priorité à la sécurité", selon la plateforme, qui n'a pas précisé combien de temps elle allait durer. 

X a aussi annoncé la création d'un centre de modération pour lutter contre l'exploitation sexuelle des enfants qui emploiera une centaine de personnes aux Etats-Unis. Une manière de donner des gages aux autorités. Depuis son rachat par le milliardaire, fervent défenseur de la liberté d'expression, et le démantèlement de ses équipes chargées de lutter contre les contenus abusifs en ligne, la plateforme est régulièrement épinglée pour son laxisme en matière de modération et son rôle dans l'amplification des messages toxiques. 

L'entreprise est aussi dans le viseur de la Commission européenne qui a ouvert une enquête pour des manquements présumés aux règles européennes en matière de modération des contenus et de transparence.

Les femmes sont les plus premières victimes des deepfakes

Au-delà de l'aspect réglementaire, l'affaire illustre aussi le paradoxe charrié par l'essor des deepfakes. Le phénomène est régulièrement pointé pour les risques que ces montages font courir aux démocraties, lorsqu'ils sont utilisés pour perturber un scrutin ou un conflit, par exemple, alors que ces cas d'usages représentent une infirme partie des vidéos qui sont diffusées à travers la planète. 

En réalité, la technologie est massivement employée pour créer des vidéos sexuelles de femmes, célèbres et anonymes, sans leur consentement. D'après une étude réalisée par la société de cybersécurité Home Security Heroes, les deepfakes pornographiques représentaient l'an passé 98% de la production mondiale du genre. 113.000 vidéos de ce type auraient été mises en ligne sur les plateformes pornographiques l'an dernier, selon le magazine Wired.

Ces contenus sont faciles à trouver dans les moteurs de recherche des sites pour adultes. Et avec les progrès de l'IA, des forums spécialisés dispensent désormais des conseils pour permettre à n'importe qui de déshabiller la personne de son choix en quelques clics à partir d'une simple photo. Une pratique dénoncée en décembre par la journaliste française Salomé Saqué, elle-même victime d'un deepfake.

Comme le soulignait l'an passé la journaliste Lucie Ronfaut dans sa newsletter #Regle30 sur Numerama, "l'immense majorité des applications délétères des deepfakes sont misogynes". "Le fond du problème n'est pas technologique," expliquait-elle. "Créer une vidéo pornographique d’une femme sans son consentement, ce n’est pas (forcément) vouloir tromper les internautes. C’est un désir de contrôle. Peu importe que ça soit pour de vrai ou pour de faux. Le traumatisme des victimes, lui, est réel. L’intérêt des hommes aussi. Pour humilier quelqu’un, se l’approprier, ruiner sa vie, même par curiosité". 

Le fait que la cible de ces images soit désormais l'icône Taylor Swift, la femme la plus célèbre au monde, personnalité de l'année 2023 du magasine Time, qui a fait plier Apple face aux ayants droit et mis le doigt sur les mauvaises pratiques du géant mondial des concerts Live Nation, va peut-être enfin faire bouger les lignes. "Si Taylor Swift ne peut pas vaincre le Deepfake Porn, personne ne pourra", s'avance ainsi Wired. Le magazine voit d'ailleurs dans cette affaire un événement déclencheur comparable au "Celebgate", la fuite de données iCloud de 2014 qui avait conduit à la diffusion de photos nues de célébrités et poussé Apple à renforcer ses fonctionnalités de sécurité. Taylor Swift ne s'est pas encore exprimée sur le sujet. Mais sa prochaine prise de parole sera suivie de près.

L’actualité par la rédaction de RTL dans votre boîte mail.

Grâce à votre compte RTL abonnez-vous à la newsletter RTL info pour suivre toute l'actualité au quotidien

Je créé mon compte Se connecter

S’abonner à la Newsletter RTL Info