Fausses images sexuelles générées par Grok : l'Union européenne ouvre une nouvelle enquête contre X

La Commission européenne a annoncé lundi 26 janvier l'ouverture d'une nouvelle enquête visant le réseau social d'Elon Musk. L’exécutif européen cherche à déterminer si X a enfreint les obligations imposées par le Digital Services Act (DSA), qui impose aux grandes plateformes numériques de protéger leurs utilisateurs contre les contenus illicites. Cette enquête porte spécifiquement sur une fonctionnalité permettant aux internautes de demander à Grok, son assistant d'intelligence artificielle, de créer des images sexuelles à partir de photos réelles de femmes ou de mineurs.

"L’Europe ne tolérera pas les comportements insensés des plateformes numériques, comme les fausses images dénudées de femmes et d’enfants", a déclaré la présidente de la Commission européenne Ursula von der Leyen à l’AFP. La cheffe de l’exécutif européen a insisté sur la responsabilité des plateformes, affirmant que l’Union ne confierait "ni le consentement ni la protection de l’enfance à des acteurs qui les violent et les monétisent".

X contraint de restreindre Grok, Bruxelles durcit le ton

Selon une étude du Center for Countering Digital Hate, Grok aurait généré environ trois millions d’images sexualisées de femmes et d’enfants en seulement onze jours, soit près de 190 images par minute. Une autre analyse, menée par l’organisation AI Forensics a révélé que plus de la moitié des 20.000 images étudiées représentaient des personnes légèrement vêtues, dont 81% de femmes et 2% de personnes semblant mineures. Face à l’ampleur du scandale, des procédures ont déjà été engagées dans plusieurs pays, notamment en France et au Royaume-Uni. Certains États sont même allés jusqu’à suspendre ou bloquer l’accès au réseau social X.

Après avoir initialement limité l’accès à la fonctionnalité incriminée, la plateforme X avait annoncé mi-janvier un bridage de son outil d’IA dans les pays où la création d’images sexuelles est illégale. Insuffisant pour Bruxelles, qui a également décidé d’étendre le périmètre d’une première enquête ouverte en décembre 2023 contre la plateforme. Cette procédure antérieure avait déjà conduit la Commission à infliger une amende de 120 millions d’euros au réseau d’Elon Musk. Début janvier, Bruxelles avait par ailleurs ordonné à X de conserver l’ensemble de ses documents et données internes liés à Grok jusqu’à la fin de l’année.

Des tensions diplomatiques avec les États-Unis en toile de fond

En ciblant à nouveau X, l’Union européenne s'est exposée à des représailles politiques de la part du président américain Donald Trump. Ce dernier a régulièrement accusé Bruxelles d’utiliser sa législation numérique pour s’attaquer aux géants technologiques américains.

À lire aussi

Parcoursup

"Je galérais à trouver des informations" : ces élèves qui ont décidé de faire appel à ChatGPT pour Parcoursup

Fin décembre, l’administration Trump avait déjà réagi en imposant des sanctions à l’ancien commissaire européen Thierry Breton, principal artisan du DSA, ainsi qu’à plusieurs autres personnalités européennes engagées pour une régulation stricte du numérique et de la désinformation. Un bras de fer transatlantique qui pourrait encore s’intensifier à mesure que l’enquête avance.