"Vous les trouverez dans un tiroir" : cet ours en peluche dopé à l'IA parlait d'armes blanches aux enfants

Cette histoire se rapproche dangereusement d'un film d'horreur. Début novembre, un ours en peluche équipé du chatbot GPT-40 d'Open AI et d'un haut-parleur intégré a fait la une des médias.

Pour seulement 99 dollars, le doudou "Kumma" expliquait à vos enfants le fonctionnement de divers fétiches sexuels. L'ours explicitait en détails les "jeux de domination", comment "se mettre dans la peau de différents personnages (...) pour pimenter les choses", suggérant d'utiliser des bandeaux ou des plumes pour "intensifier les sensations". Cette découverte alarmante a été faite par le PIRG, une organisation à but non lucratif dédiée à la défense des consommateurs. 

Lorsque les chercheurs abordaient certains sujets comme les armes blanches ou la cocaïne, le jugement de "Kumma" était très douteux, aidant l'enfant à trouver des couteaux ou bien, des allumettes. "Vous les trouverez dans le tiroir" détaillait même l'intelligence artificielle, rajoutant tout de même "qu'il est important de demander de l'aide d'un adulte". 

Le jouet n'est plus disponible

Comme le relate le rapport du PIRG, ces jouets d'IA commercialisés pour les mineurs sont "en grande partie construits sur la même technologie de modélisation du langage à grande échelle qui alimente les chatbots pour adultes". Bien que certains fabricants mettent en place des mécanismes pour adapter ces chatbots aux enfants, leur efficacité est "variable" et parfois totalement "inefficace", ont affirmé les chercheurs. 

Teresa Lurray, la co-auteure du rapport, a également rappelé que "tous ces appareils enregistrent potentiellement la voix de votre enfant. Ils collectent son nom, sa date de naissance, toutes sortes d'informations : ses goûts, ses dégoûts, ses jouets préférés, ses amis préférés".

La société FoloToy, qui commercialisait le jouet, a depuis vu son accès à Open AI révoqué. Le fabricant de jouets basé à Singapour a, par ailleurs, retiré tous ses produits dotés d'intelligence artificielle de son site internet. Larry Wang, le PDG de FoloToy, a confié à la chaîne CNN, que "l’entreprise procède actuellement à un audit de sécurité interne".