Comment reconnaître les vidéos truquées par l'intelligence artificielle sur les réseaux sociaux

Ces derniers mois, les deepfakes commerciaux de célébrités ont envahi les réseaux sociaux. Les deepfakes, ce sont ces vidéos truquées par intelligence artifificielle qui font dire à des personnalités des choses qu’elles n’ont jamais prononcées. Kylian Mbappé, Elise Lucet, Florent Pagny et plus récemment Alain Delon ont ainsi été victimes de ces manipulations pour faire la promotion d’arnaques financières. L’objectif est toujours le même : faire miroiter des gains aux fans des stars pour les amener à s’inscrire sur des plateformes frauduleuses et leur soutirer de l’argent.

Ce phénomène en plein essor sur Facebook s’appuie sur l’intelligence artificielle. Cette technologie permet désormais facilement d’associer des vidéos authentiques et des images de synthèse avec un rendu convaincant. Outre les arnaques, ces contenus synthétiques sont aussi souvent utilisés pour des opérations d’influence, pour manipuler un scrutin électoral par exemple, et plus largement, pour créer des vidéos pornographiques mettant en scène des stars ou des inconnues.

Heureusement, un certain nombre de détails permettent de repérer ces vidéos suspectes. Même si ces truquages deviennent de plus en plus sophistiqués, ils présentent souvent des anomalies qui ne trompent pas. Les spécialistes conseillent d’abord de s'intéresser aux mouvements du visage, aux expressions faciales. Généralement, la mâchoire va sembler robotisée, peu naturelle. Les clignements des yeux peuvent aussi sembler artificiels. 

Dans certains montages, la synchronisation entre les lèvres et la voix va laisser à désirer : on observe un décalage entre le mouvement des lèvres et ce que dit la personne. On peut aussi remarquer des éclairages ou des ombres inhabituels. Autre signe évocateur : ces vidéos sont généralement publiées sous la forme de publications sponsorisées sur les plateformes. Elles s’affichent au milieu du fil d’actualité des internautes mais ne sont pas publiées par un compte auquel ils sont abonnés.

À écouter aussi

RTL Soir

JO 2024 - Attention aux arnaques liées aux transports en commun franciliens

25/07/2024 à 00:00 - 01m21s

Ces détails permettent de repérer la plupart des truquages. Aussi, pour masquer ces imperfections , les vidéos sont généralement diffusées dans une mauvaise qualité. C’est pourquoi il est également important de miser sur son esprit critique : il paraît peu probable qu’Alain Delon ait lance une application de casino en ligne à titre posthume et fasse miroiter des gains faramineux à ses fans quelques jours après sa mort. 

De manière générale, avant de croire à une image ou une vidéo vue sur les réseaux sociaux, il est essentiel de vérifier son authenticité, de chercher des sources fiables. Dans cette perspective, il est recommandé de privilégier des médias reconnus et des comptes officiels. Autre réflexe salvateur : réfléchir au contexte dans lequel le contenu est publié et se méfier des offres trop alléchantes. 

Il existe aussi des parades technologiques : certaines plateformes utilisent des outils de marquage des contenus authentiques ou de synthèse au moment de leur création. Des outils permettent aussi de détecter automatiquement les vidéos créées par une IA. Le contrôle par les réseaux sociaux sera primordial dans les prochaines années pour faire face à ce type de contenus.

Retrouvez "La règle d'or numérique", chaque dimanche, dans le flux "Ça peut vous arriver"

Retrouvez chaque semaine (l’inimitable) "Règle d’or" en podcast… et désormais son pendant Numérique consacré aux problèmes du quotidien en ligne. Comment naviguer en toute sécurité sur Internet ? Quelles sont les réglages à paramétrer pour protéger vos données personnelles ? Comment repérer les arnaques en ligne avant de tomber dans le panneau… Benjamin Hue, journaliste à RTL, répond ici aux questions que vous vous posez tous les jours sur les nouvelles technologies.