Intelligence artificielle : un homme condamné après avoir créé de faux clichés pédopornographiques

Ces dernières années, les avancées en matière d'intelligence artificielle ont captivé le grand public comme les professionnels, qui les utilisent désormais dans différents domaines. Des innovations qui présentent toutefois un volet noir, lorsque leur usage est détourné à des fins criminelles. C'est notamment le cas d'un Sud-Coréen, jugé pour détention d'images pédopornographiques générées par IA. 

Le quadragénaire avait été inculpé en août pour ces mêmes faits par le tribunal de Busan. Il vient d'écoper d'une peine de deux ans et demi de prison. Selon franceinfo, l'homme a utilisé un logiciel lui permettant de générer sur demande une image dans un style particulier, allant du manga aux prises de vue réalistes. Quelque 360 clichés pédopornographiques décrits par la justice comme "ultra-réalistes", créés avec cet outil, ont été retrouvés sur son ordinateur. 

S'il n'a pas diffusé ces images, l'homme a été jugé coupable de les détenir. Le caractère réaliste de ces "créations" a été mis en avant par l'accusation en réponse aux arguments de la défense, qui soutenait que l'accusé n'avait pas relayé ces contenus. 

Les deepnude, une mode inquiétante qui se répand

Cette utilisation de l'intelligence artificielle inquiète de plus en plus les associations et la justice. Des phénomènes qui ont inondé le net, tels que le deepfake, qui permet de superposer plusieurs séquences photo et vidéo et d'utiliser l'apparence de personnes dans des contenus créés de toute pièces, posaient déjà des problèmes en matière de droit à l'image et de consentement. 

À lire aussi

jeux vidéo

Pourquoi "Roblox", jeu vidéo ultra populaire chez les enfants, va bientôt contrôler l’âge de ses utilisateurs

Récemment, au Canada, un homme a été condamné à trois ans de prison pour avoir supplanté les visages d'adultes par des visages d'enfants sur une vidéo à caractère pornographique. Par ailleurs, en Espagne, des adolescentes d'Almendralejo, au sud du pays, ont été dénudées artificiellement sur des photos générées par un logiciel. L'une d'entre elles avait 11 ans, rapporte Euronews. 

C’est tout le problème : ils pensent que ce n’est pas grave parce que ce n’est pas le vrai corps mais clairement, pour la victime, l’impact est réel.

Catherine Van de Heyning, professeure à l’Université d’Anvers

Ces pratiques semblent gagner du terrain, y compris en Belgique, où Catherine Van de Heyning, professeure à l’Université d’Anvers expliquait dernièrement à la RTBF que ces fausses photos sont en grande majorité réalisées par de jeunes hommes, qui maîtrisent mieux ces technologies. "Quand on leur demande pourquoi, on pense toujours que c’est pour des raisons sexuelles mais le plus souvent, c’est 'parce que c’est drôle' entre copains, ou par ennui. C’est tout le problème : ils pensent que ce n’est pas grave parce que ce n’est pas le vrai corps mais clairement, pour la victime, l’impact est réel", a-t-elle souligné auprès de nos confrères. 

Cette dernière, également magistrate, participe aux recherches sur les deepnudes (des deepfake dénudés), l'encadrement juridique de ces applications et leur impact sur les victimes. Des pratiques illégales, au conséquences psychologiques potentiellement dévastatrices, et qui pour Catherine Van de Heyning méritent une prévention adaptée "l’éducation aux médias et à la sexualité, c’est vraiment super important", a-t-elle fait remarquer. Des questions évoquées dans le programme Evras d'éducation à la vie relationnelle, affective et sexuelle, rejetée par certains parents en Belgique.

Une règlementation européenne sur les images générées par l'IA est également sur le point d'être présentée pour mettre fin à ces usages dévoyés et illégaux de la technologie : "Il sera obligatoire d’indiquer si l’image a été générée par une intelligence artificielle. Si la voix a été clonée, c’est pareil", indique encore Catherine Van de Heyning.