Emmanuel Macron au milieu des manifestations : attention, ces photos générées par des IA sont fausses

Non, Emmanuel Macron n'est pas descendu dans la rue se frotter aux manifestants. Alors que les actions de contestation contre la réforme des retraites se poursuivent un peu partout en France depuis l'adoption du texte après un recours controversé à l'article 49.3, des photos montrant le chef de l'État se mêlant à la foule, interpellé par la police ou encore habillé en éboueur ou en CRS ont fait irruption sur les réseaux sociaux. Ces images, ultra réalistes, sont évidemment fausses. Elles ont été générées par des outils, nommés Midjourney ou Dall-E, qui placent les capacités de l'intelligence artificielle à la portée du grand public.

Midjourney, qui vient de mettre à disposition du public sa cinquième version, comme Dall-E s'appuient sur les mêmes ressorts que le célèbre chatbot ChatGPT, à savoir des réseaux de neurones artificiels entraînés pour comprendre les requêtes en langage humains. Sauf qu'à la différence du robot conversationnel, ces IA ne produisent pas des textes à la volée mais des visuels au rendu très convaincant. Ces services permettent de créer des images en quelques secondes à partir d'un "prompt", une simple commande formulée sous la forme d'un texte. Il suffit de décrire les éléments composant l'image, l'action et le style souhaité pour que le programme s'exécute. 

Un risque accru pour la diffusion de fake news

Les progrès de ces outils, leur gratuité et leur facilité d'utilisation charrient forcément leur lot de craintes. Si la plupart de ces images n'ont pas été publiées pour tromper les internautes - elles sont souvent identifiées comme des créations - elles peuvent facilement être détournées à des fins de manipulation de l'information, à la manière des "deep fakes", une autre technique utilisant l'intelligence artificielle pour modifier numériquement les visages de personnalités afin de leur faire dire ou faire ce que l'on souhaite. 

Les images photoréalistes montrant Emmanuel Macron dans des situations insolites peuvent être perçues comme authentiques par des internautes peu au fait de l'actualité des nouvelles technologies. À l'inverse, les fausses images de la première ministre Elisabeth Borne sont plus évidentes à repérer, l'IA ayant plus de mal à l'imiter, faute d'un stock d'images suffisant dans sa base de données d'entraînement. Mais cela sera bientôt de l'histoire ancienne.

Pour l'heure, les réseaux sociaux n'identifient pas les images générées par les IA comme telles. Twitter précise dans ses conditions d'utilisation vouloir lutter contre les "médias manipulés" et se réserve le droit de placer un avertissement, si elles sont destinées à induire en erreur. TikTok indique pour sa part que "les médias synthétiques ou manipulés exposant les scènes réalistes doivent être manifestement dénoncés" avec des mentions comme "synthétique", "faux", "irréel" ou "modifié". Le réseau social explique interdire complètement les deepfakes sur des personnes privées mais pas pour les personnalités publiques.