Lensa, Dawn AI : ce qu'il faut savoir avant de créer des avatars magiques sur ces applications

Leurs avatars magiques ont envahi les réseaux sociaux ces dernières semaines. Les applications Lensa et Dawn AI caracolent en tête des téléchargements en France, aux États-Unis, en Russie ou au Brésil depuis la sortie de leur fonctionnalité de génération de portraits artistiques à la fin du mois de novembre. Selon les derniers chiffres disponibles, ces applications payantes, après un essai gratuit, ont été téléchargées à plusieurs dizaines de millions de reprises dans le monde et ont déjà engrangé plusieurs millions de dollars via les achats intégrés qu'elles proposent.

Éditée par l'entreprise californienne Prisma Labs, à qui l'on doit déjà l'outil de retouche de d'images Prisma AI, l'application Lensa a vu sa popularité grimper en flèche depuis l'ajout de sa fonctionnalité "Magic Avatar" qui permet, moyennant quelques dollars, de transformer une série d'une dizaine de selfies en autant de portraits personnalisés magnifiés dans une large palette de styles artistiques allant du manga à la science-fiction, en passant par la féérie, la pop ou l'univers cyborg. 

De la même manière, l'application Dawn AI, conçue par Splice Video, a le vent en poupe depuis l'ajout de sa fonction "Avatar IA" qui promet, en l'échange d'un abonnement hebdomadaire ou mensuel, de "créer des portraits avec une technologie d'intelligence artificielle de pointe" dans "des styles créatifs infinis", allant du photoréalisme à la fantasy, de l'impressionnisme à la peinture à l'huile.

Ces nouvelles applications à la mode sont les dernières illustrations des progrès de l'intelligence artificielle générative. À l'instar du robot conversationnel ChatGPT ou des plateformes de génération d'images Midjourney et Dall-E2 qui ont fait sensation ces dernières semaines, elles s'appuient sur des réseaux de neurones artificiels, des algorithmes nourris avec des milliards d'images existantes capables d'en créer de nouvelles à partir des selfies des utilisateurs ou de simples mots-clés.

Pourquoi il faut se méfier de ces applications

À lire aussi

Connecté

Horloge, applis masquées, WhatsApp... Comment savoir si vos ados déjouent le contrôle parental

Le succès de ces applications s'accompagne d'un certain nombre de critiques. Outre une tendance à générer des portraits perpétuant des stéréotypes physiques et raciaux (taille affinée, visages de couleur blanchis...), l'application Lensa a été accusée de sexualiser les femmes avec des portraits artistiques parfois très suggestifs, avec des poitrines gonflées ou des utilisatrices dénudées alors qu'elles avaient téléchargé un selfie habillé dans l'application. Des utilisateurs ont aussi montré que l'outil pouvait facilement être détourné pour créer des images problématiques, notamment dans le cadre de "revenge porn" ou via des deep fake pornographiques de célébrités.

Les deux applications sont aussi la cible de certains créateurs qui disent avoir reconnu leur style voire leur signature d'artiste déformée dans certains avatars. Leur succès pose la question du plagiat artistique par les machines qui s'entraînement sur des modèles d'images disponibles sur Internet dont certaines sont protégées par le droit d'auteur.

Enfin, il faut aussi avoir à l'esprit que ces applications, qui collectent des dizaines de photos de leurs utilisateurs pour générer leurs avatars, gardent un droit de regard sur leurs portraits numériques. Si Lensa s'engage à ne conserver aucune photo définitivement, elle s'attribue le droit de les exploiter commercialement une fois qu'elles ont été publiées sur les réseaux sociaux "en identifiant Lensa ou la société par mention directe ou via un hashtag". L'examen de la politique de confidentialité de l'entreprise montre aussi qu'elle peut utiliser les portraits obtenus et des données faciales, comme la position, l'orientation et la typologie du visage, pour entraîner son réseau neuronal. En générant des "avatars magiques" sur Lensa, vous passez finalement deux fois à la caisse : d'abord pour utiliser l'application, puis pour améliorer sa technologie.

À écouter aussi

RTL Matin

IA - Que contient l'accord européen inédit sur l'intelligence artificielle ?

10/12/2023 à 10:25 - 01m20s