Pédopornographie : "Les parents doivent comprendre qu'une photo sur Facebook peut finir chez des milliers de pédophiles"
Les images publiées sur les réseaux sociaux peuvent se retrouver entre de mauvaises mains. D'après la Fondation pour l'enfance, la moitié des contenus échangés dans les cercles pédocriminels ont été volés sur les comptes des parents. Un phénomène amplifié et facilité par l'intelligence artificielle.
C'est une habitude innocente qui peut avoir de graves répercussions. D'après l'Observatoire de la parentalité et de l'éducation numérique, 53% des Français ont déjà posté des photos de leurs enfants sur les réseaux sociaux. Ces derniers sont loin de s'imaginer que le "sharenting" (le partage de parentalité) contribue de façon sous-jacente à alimenter le pire fléau du Web. Car lorsqu'on publie une image sur Internet, cela revient à en perdre le contrôle, avec la possibilité que sa trajectoire la mène entre de mauvaises mains.
Dans un rapport publié en octobre 2024, la Fondation pour l'enfance a montré que la moitié des photos et vidéos d'enfants échangées sur les forums pédocriminels avaient initialement été publiées par leurs parents sur leurs réseaux sociaux. Ces images entretiennent un trafic en plein essor. La France figure au cinquième rang européen, et au neuvième poste mondial, en matière d'hébergement de contenus pédocriminels. Plus de 800 signalements de contenus échangés en ligne sont transmis chaque jour à l'Office des mineurs, en augmentation de 12.000 % depuis 10 ans.
Des pratiques facilitées et amplifiées par l'intelligence artificielle
La Fondation pour l'enfance pointait aussi dans son étude une tendance inquiétante : le phénomène s'est renforcé et amplifié avec les progrès de l'intelligence artificielle. "Aujourd'hui, un modèle d'intelligence artificielle générative met environ 3 secondes à créer une image ou une vidéo à caractère pédopornographique. On peut imaginer le nombre d'images qui peuvent être créées en une journée, une semaine ou un an. C'est colossal", constate auprès de RTL Joëlle Sicamois, directrice de la Fondation pour l'enfance.
Avec la mise à disposition du grand public des grands modèles d'intelligence artificielle, des solutions ont été détournées par des pédocriminels pour créer des images pédopornographiques à la volée. "Les images capturées sur les réseaux sociaux sont non seulement utilisées pour produire de nouveaux contenus, mais elles servent également à entraîner les modèles à générer des photos et vidéos de plus en plus réalistes et violentes", souligne la spécialiste. Ces deepfakes pédocriminels soulèvent de nouvelles problématiques pour les forces de l'ordre qui peinent à distinguer les images générées par l'IA de celles mettant en scène de vrais enfants victimes de violence qui nécessitent une intervention directe.
En parallèle, les pédocriminels profitent du laxisme des plateformes pour organiser leur business. Comme l'a montré récemment la police nationale, des internautes utilisent un langage codé, notamment l'émoji pizza sur TikTok, pour signaler aux autres pédophiles qu'ils proposent des contenus susceptibles de les intéresser. Leurs profils renvoient ensuite vers des chaînes Telegram ou WhatsApp privées sur lesquelles ils monnaient des abonnements pour accéder à des contenus pédopornographiques et trouver de l'assistance pour en produire de façon autonome avec des outils d'intelligence artificielle.
Garder ces photos pour ses proches ou cacher le visage des enfants
Malgré les alertes des spécialistes, il suffit de faire défiler les flux des principaux réseaux sociaux pour constater que nombre de parents n'ont pas encore pris conscience de ces menaces. "Les parents doivent comprendre que quand ils publient une photo tout à fait anodine de leurs enfants en vacances sur Facebook, ça finit dans des milliers de bibliothèques de pédophiles partout dans le monde", prévient la députée (Droite républicaine) Alexandra Martin, jointe par RTL.
L'élue a déposé récemment une proposition de loi pour renforcer les sanctions contre les auteurs de deepfakes sexuels et aggraver les peines lorsque les montages visent des mineurs. Le texte prévoit aussi de criminaliser la création et la mise à disposition de modèles d'intelligence artificielle ou d'applications permettant de créer ces montages. L'initiative fait écho aux demandes des associations qui souhaitent modifier le code pénal pour ajouter une condamnation explicite de ces nouveaux contenus criminels. La députée espère trouver une fenêtre de tir d'ici l'été pour faire passer le texte au Parlement.
En attendant, les experts appellent les parents à serrer la vis sur les contenus qu'ils publient et à les réserver à des cercles privés. "Les parents doivent a minima contrôler l'audience de leurs publications, restreindre leur visibilité autant que possible en passant leurs comptes en privé. Mais le mieux reste de ne pas publier d'images de leurs enfants et de les transmettre à leurs proches directement via une messagerie privée", résume Joëlle Sicamois. Autre option : publier des photos sur lesquelles le visage de l'enfant n'est pas visible ou masqué par un emoji.
- Deepfakes pornographiques : comment se protéger de ces fausses vidéos ?
- TikTok toxique pour les adolescents ? La composition de la commission d'enquête parlementaire connue mardi
- Deepfakes porno de collégiennes : on vous explique cette nouvelle forme de violence en ligne qui cible les femmes
- TikTok toxique pour les ados ? RTL vous explique les objectifs de la commission d'enquête parlementaire
- Que risque-t-on à partager des photos sur les réseaux sociaux ?
