2 min de lecture

Ingérences étrangères : sur RTL, un expert en cybercriminalité estime qu'il sera "de plus en plus difficile" de détecter les faux contenus générés par IA

Face à la prolifération de faux contenus, Denis Jacopini, expert en cybercriminalité, appelle les utilisateurs d'internet et des réseaux sociaux à la vigilance lorsqu'ils entendent ou voient de nouvelles informations. D'autant plus nécessaire dans un contexte préélectoral.

Un clavier d'ordinateur illustrant les risques de cyberattaque (photo d'illustration).

Crédit : Science Photo Library via AFP

00:05:33

Je m'abonne à la newsletter « Infos »

Mettre RTL en favori sur Google

À l'approche de la présidentielle, les attaques numériques vont se multiplier. Les autorités et les experts appellent donc à la vigilance face à l'afflux de faux contenus, souvent orchestré depuis l'étranger pour influencer le débat public. Récemment, trois candidats à l'élection de l'année prochaine, Édouard Philippe, Raphaël Glucksmann et Gabriel Attal, ont été ciblés par une campagne de fake news venue de Russie. Pour Denis Jacopini, expert informatique et spécialiste en cybercriminalité et en protection des données, les progrès dans l'intelligence artificielle (IA) vont rendre la détection de ces faux contenus "de plus en plus difficile".

Sur RTL, dimanche 9 août, il rappelle le mode opératoire de ces cybercriminels qui génèrent des vidéos ressemblant "à des vidéos d'information standard qu'on a l'habitude de voir sur les médias traditionnels, mais le contenu a été trafiqué et remplacé par des contenus choisis par des malfaiteurs". Si la plupart du temps, les fake news sont détectées par des services spécialisés, dont Viginum en France, dans d'autres, ils peuvent passer entre les mailles du filet et se propager largement.

Et l'IA n'aide pas. À l'ère de cette nouvelle révolution numérique, il devient de plus en plus facile d'inonder internet et les réseaux sociaux de vidéos, photos ou sites internet fallacieux. "Il suffit d'une photo, d'une vidéo, d'un enregistrement sonore pour que l'IA fabrique des éléments nouveaux à partir de ces éléments réels", explique Denis Jacopini.

"Il y a deux ans, les personnes avaient six doigts"

Selon l'expert en cybercriminalité, le meilleur moyen de lutter contre ce phénomène est tout simplement d'être prudent. "Il faut augmenter son niveau de prudence, son niveau d'analyse, de manière à systématiquement se poser la question lorsqu'on entend ou voit quelque chose de nouveau : est-ce que c'est vrai ou pas, quelle est la source ?"

Mais Denis Jacopini convient qu'il sera "de plus en plus difficile" de reconnaître ces faux contenus, les techniques d'imitation s'affinant au fil du temps. "Il y a deux ans, les personnes avaient six doigts. Aujourd'hui, ce n'est plus le cas. Les personnes ont bien leurs doigts, leurs yeux, leurs oreilles. La voix et les lèvres sont bien synchronisées."

Il faudrait ainsi imposer aux outils générateurs d'IA comme ChatGPT, Claude ou Gemini d'indiquer des marqueurs sur tous les contenus créés par l'intelligence artificielle. "Ce qu'il manque encore, ce sont des obligations auprès des outils qui permettent de générer ces IA d'intégrer dans les vidéos qu'elles génèrent directement des marqueurs qui permettent automatiquement de les détecter", plaide le spécialiste.

La législation commence à évoluer. Depuis le 2 août, l'Union européenne impose une mention visuelle ou sonore "généré par IA" pour identifier les deepfakes (imitation de personnalités) ou les grosses productions artistiques (un roman ou un film, par exemple). Pour les simples images ou textes, la mention est aussi obligatoire mais seulement dans les métadonnées, ce qui la rend invisible à première vue pour les utilisateurs d'Internet ou des réseaux sociaux. Difficile alors de détecter qu'il s'agit d'un faux contenu.

La rédaction vous recommande