"Des œufs de vache" : le fiasco de "Lucie", ce ChatGPT à la française

Un robot conversationnel baptisé Lucie, pensé pour offrir une alternative française, basée sur des sources libres, aux intelligences artificielles (IA) des géants de la tech, a dû être débranché après avoir livré une cascade de résultats absurdes aux internautes qui l'interrogeaient. Calculs absurdes, "oeufs de vache", "poids d'un trou de gruyère": de nombreux utilisateurs ont testé des requêtes aux résultats improbables. Alerté par les moqueries sur les réseaux sociaux, les promoteurs du projet ont décidé au bout de trois jours de fermer son accès à tous en ligne.

La plateforme, lauréate du programme France 2030 lancé par l'État, ambitionne de fournir une alternative "transparente et fiable" aux IA comme ChatGPT, et pourrait par exemple servir pour l'éducation ou la recherche. Mais "nous avons fait l'erreur de mettre à disposition (Lucie) dans l'état", sans préciser suffisamment qu'il ne s'agissait pas d'un robot prêt à l'emploi, mais d'un "projet de recherche", a reconnu Michel-Marie Maudet, le directeur général de Linagora, l'entreprise derrière Lucie. 

D'autre part, "tous les systèmes d'intelligence artificielle disposent de garde-fou", qui les empêchent de produire des textes haineux ou injurieux, a-t-il souligné. "Notre deuxième erreur a été de mettre à disposition Lucie sans ces garde-fous". Le dirigeant explique avoir voulu mettre en ligne Lucie avant le sommet international de Paris sur l'IA du 10 et 11 février et qu'il n'avait "pas du tout anticipé cet emballement", car Linagora "travaille dans le logiciel libre où les communautés font en général preuve de bienveillance et d'encouragements". 

Une seconde chance

Ce raté au démarrage n'empêche pas les promoteurs de Lucie d'espérer remettre prochainement en ligne Lucie, après l'avoir fait évoluer, pour offrir à tous "un modèle de langage d'intérêt général". Contrairement aux géants de la tech comme ChatGPT, Lucie, qui "n'a pas d'ambition économique" et promet la transparence sur les données qui servent à l'entraîner, a expliqué M. Maudet. Ce qui permettra par exemple de s'assurer que les réponses sont issues de données scientifiques vérifiées. Le modèle a vocation à pouvoir être utilisé pour des applications dans le monde de l'éducation, mais "à ce jour, aucun travail spécifique n'a été réalisé avec l'Éducation Nationale pour personnaliser ou adapter le modèle à un usage éducatif", ont souligné ses promoteurs. 

À écouter aussi

RTL Matin

IA - Que contient l'accord européen inédit sur l'intelligence artificielle ?

10/12/2023 à 10:25 - 01m20s