Explosion des deepfakes sexuels générés par IA : pourquoi il ne faut plus partager de photos de vos enfants sur les réseaux sociaux

C'est une alerte extrêmement sérieuse lancée par l'Unicef en lien avec Interpol. Dans une étude publiée mercredi 4 février, l'organisation se dit "alarmée" par l'explosion des images d'enfants détournées et sexualisées générées par l'intelligence artificielle. "Au moins 1,2 million d’enfants ont déclaré avoir vu leurs photos détournées en deepfakes sexuellement explicites au cours de l’année écoulée. Dans certains pays, cela représente 1 enfant sur 25, soit l’équivalent d’un enfant par classe", déplore l'Unicef.

Les données ont été collectées dans onze pays : l'Arménie, le Brésil, la Colombie, la République dominicaine, le Maroc, le Monténégro, la Macédoine du Nord, le Mexique, le Pakistan, la Serbie et la Tunisie. Mais le phénomène est aussi bien réel dans l'Hexagone, comme l'a récemment illustré le scandale des images de femmes et de mineures déshabillées à la demande par Grok, l'intelligence artificielle intégrée à X, le réseau social d'Elon Musk.

Dans un rapport publié fin 2024, la Fondation pour l'enfance estimait que la moitié des images d'enfants retrouvées sur les forums pédocriminels avaient d'abord été publiées par leurs propres parents sur leurs réseaux sociaux. La France est aujourd'hui l’un des pays les plus touchés au monde par la pédocriminalité. Chaque jour plus de 800 signalements sont transmis à l'Ofmin, la police des mineurs. Et la part de ces fausses images modifiées par l'IA est en pleine expansion, ce qui complique le travail de la cinquantaine d'enquêteurs spécialisés qui doivent repérer les images réelles nécessitant une intervention rapide.

L'essor de l’intelligence artificielle a largement amplifié cette menace. Désormais, il suffit de quelques secondes à une IA pour générer des images pédopornographiques. Chaque jour, des milliers d’images sont ainsi produites et diffusées à grande échelle, parfois par de simples camarades de classe dans une démarche de cyberharcèlement et de revenge porn. Les pédocriminels exploitent ces nouvelles technologies pour créer du contenu inédit à partir de photos volées sur les réseaux sociaux. Les images servent aussi à entraîner les IA, qui deviennent plus performantes pour produire des montages indétectables.

Pour faire face à ces pratiques, la France a renforcé sa législation ces derniers mois. Le fait de produire, de détenir, d’enregistrer, de transmettre ou de consulter habituellement des contenus pédopornographiques est puni de 5 ans d’emprisonnement et de 75.000 euros d’amende, y compris si ces contenus ont été produits par des outils d’intelligence artificielle, d'après l'article 227-23 du code pénal.

Éviter de diffuser des images de vos enfants de manière incontrôlée

Malgré ces risques, de nombreux parents continuent de publier des photos de leurs enfants sans se douter des conséquences. Une étude de l'Observatoire de la parentalité et de l'éducation numérique estimait en 2023 que plus de la moitié des Français avaient pris l’habitude de partager des images de leurs enfants en ligne. Pour les parents, ces photos de vacances à la plage, au spectacle ou lors des anniversaires sont des moments heureux à partager. Mais ils constituent autant de portes d'entrées pour les prédateurs, car une fois qu'une image est publiée sur Internet, on en perd le contrôle, et elle peut vite finir enregistrée dans des milliers d'ordinateurs à travers le monde.

Dans ce contexte, les spécialistes conseillent aux parents d'éviter de diffuser des images de leurs enfants en ligne, et de limiter l'accès à leurs réseaux sociaux en passant leurs comptes en privé, en vérifiant l'audience de leurs publications et en faisant le ménage parmi les photos et vidéos anciennes. "Éviter de diffuser de manière incontrôlée (c’est-à-dire accessible à tous) des images de vous ou de vos proches notamment sur les réseaux sociaux : privilégiez le partage par messagerie privée instantanée sécurisée ou des partages éphémères avec une audience réduite", écrit la Commission nationale de l'informatique et des libertés (CNIL) sur son site. Il est possible d'activer les messages éphémères sur des applications comme WhatsApp ou Messenger pour que les images s'effacent automatiquement après 24 heures.

Enfin, il est aussi possible de masquer le visage des enfants en le recouvrant d'un emoji, ou de publier des photos où ils ne sont pas reconnaissables, mais il convient d'avoir toujours à l'esprit que le risque zéro n'existe pas et que la meilleure parade reste de ne pas diffuser ces clichés en ligne.

Retrouvez désormais "La règle d'or numérique" tous les samedi à 6h53 dans "RTL Week-end" présenté par Stéphane Carpentier.  Comment naviguer en toute sécurité sur Internet ? Quels sont les réglages à paramétrer pour protéger vos données personnelles ? Comment repérer les arnaques en ligne avant de tomber dans le panneau… Benjamin Hue, journaliste spécialiste des nouvelles technologies, répond ici aux questions que vous vous posez sur le numérique et  votre quotidien en ligne.

L’actualité par la rédaction de RTL dans votre boîte mail.

Grâce à votre compte RTL abonnez-vous à la newsletter RTL info pour suivre toute l'actualité au quotidien

Je créé mon compte Se connecter

S’abonner à la Newsletter RTL Info