Deepfakes sexuels, scandale sur X : l'Europe veut interdire les IA qui déshabillent des personnes d'ici cet été

Les 27 veulent limiter les dérives de l'IA générative. Les Etats membres de l'UE se positionnent pour interdire les services d'intelligence artificielle permettant de créer de fausses images sexuelles ou dénudées de personnes réelles après le scandale lié à Grok, l'assistant d'IA d'Elon Musk.

Les représentants des 27 à Bruxelles ont approuvé un amendement proposé par la France et l'Espagne à une proposition de loi en matière d'IA, qui vise à interdire ces services dans toute l'UE. La disposition approuvée "interdit les services d'IA en matière de génération d'images sexuelles et intimes non consenties, oupédopornographiques", précise un communiqué du Conseil, l'instance de l'UE réunissant les Etats membres.

Le Parlement européen travaille parallèlement sur un amendement similaire, qui pourrait être adopté en commission la semaine prochaine. Les Etats membres et les eurodéputés devront ensuite s'entendre sur une formulation identique, avant que la mesure puisse entrer en vigueur.

Interdire les services d'IA et autres applications permettant de "dénuder" des personnes

L'objectif des Européens est d'interdire les services d'IA et autres applications permettant de "dénuder" des personnes adultes ou mineures, ou de créer des images à caractère sexuel qui les mettent en scène sans leur consentement, à partir de photos ou vidéos réelles.

Cette initiative fait suite notamment à l'introduction il y a quelques mois d'une fonctionnalité dans Grok permettant aux utilisateurs de lui demander de créer des images de personnes faussement dénudées à partir de photos réelles, ce qui avait soulevé un tollé dans de nombreux pays et entraîné l'ouverture d'une enquête de l'UE.

"Il ne s'agit pas d'agir contre des scandales individuels comme celui lié à Grok, mais de limiter le pouvoir que nous donnons à l'IA", a souligné l'eurodéputé allemand Sergey Lagodinsky, membre des Verts, l'un des élus à la manoeuvre sur ce sujet.

Une pratique qui va au-delà de X

Au-delà de Grok, de nombreux outils permettent aujourd'hui de déshabiller virtuellement des personnes à partir d'une simple image. Les perfectionnements de l'intelligence artificielle ont rendu accessibles des technologies qui étaient jusqu'ici restreintes à certains cercles spécialisés dans le "face swap", l'échange de visages appliqué à des scènes pornographiques. 

Désormais, l'IA générative permet à n'importe qui, en quelques clics, de superposer le visage d’une collègue, d’une ex ou d’une camarade de classe sur une vidéo sexuelle. La plupart des sites pornographiques hébergent désormais des vidéos deepfakes et des applications spécialisées, facilement accessibles via des moteurs de recherche classiques, permettent de réaliser ces montages moyennant un abonnement. Les associations spécialisées dans la lutte contre ces contenus estiment que plus de 95% des deepfakes produits à travers le monde sont des montages pornographiques. Et dans la quasi totalité des cas, ils ciblent des femmes.

À lire aussi

États-Unis

Vers une taxe Zucman à l'américaine ? : "C'est toujours le monde anglo-saxon qui donne le ton en matière d'impôt", analyse François Lenglet