"Starter packs" ChatGPT : pourquoi il faut se méfier de cette tendance IA virale sur les réseaux sociaux

Difficile d'y échapper ces derniers jours. Si vous vous êtes connecté à X, Instagram ou LinkedIn récemment, vous avez forcément vu passer des images de "starter packs" dans vos fils d'actualités. Cette tendance s'appuie sur l'intelligence artificielle générative pour produire des représentations de personnes à la façon d'une figurine de collection en plastique emballées avec plusieurs objets fétiches. 

Les utilisateurs des réseaux sociaux s'en sont donné à cœur joie ces dernières semaines pour générer des "starter packs" à leur effigie ou celle de célébrités, comme Kylian Mbappé, Emmanuel Macron ou Thomas Pesquet. Des personnalités se sont aussi prêtées au jeu, à l'instar du ministre de la Justice Gérald Darmanin, du premier secrétaire du PS Olivier Faure ou du patron du Medef Patrick Martin.

Le phénomène repose sur les dernières fonctionnalités des modèles d'intelligence artificielle comme ChatGPT qui peuvent désormais générer des images de haute qualité en quelques secondes. Il suffit de formuler un "prompt" pour indiquer au service le résultat souhaité de la façon la plus précise possible et de l'accompagner d'une photo nette montrant le visage de la personne en question. De nombreux tutoriels sont disponibles sur Internet pour réaliser ces créations.

Un impact énergétique qui interroge

Inoffensive en apparence, cette tendance charrie toutefois un certain nombre d'effets négatifs. De l'entraînement initial des modèles au traitement des requêtes par centaines de milliers, la génération de ces "starter packs" implique ainsi une importante consommation énergétique. S'il est difficile de calculer avec exactitude l'impact de ces créations, des études ont évalué qu'une image de bonne qualité générée par ChatGPT demandait à peu près autant d'électricité qu'une recharge entière de smartphone, par exemple. Des experts ont aussi souligné le fait que les systèmes de refroidissement des serveurs de données nécessaires au fonctionnement des modèles d'IA sont très gourmands en eau.

La création d'un "starter pack" pose aussi des questions en matière de confidentialité. Afin d'obtenir un résultat fidèle à leur demande, les utilisateurs doivent fournir des informations personnelles, comme leur nom, prénom, leurs centres d'intérêt et même des photos. 

Ces données sont mobilisées pour personnaliser les créations, mais elles peuvent aussi être collectées et traitées par les entreprises qui conçoivent les modèles d'IA pour les entraîner, voire à des fins commerciales. Par défaut, la société OpenAI conserve l'ensemble des informations transmises à ChatGPT si l'on ne modifie pas les paramètres. Et une fois publiés sur les réseaux sociaux, les "starter packs" peuvent constituer des mines d'informations que des cybercriminels pourraient utiliser pour faire de l'ingénierie sociale en préalable à des arnaques.