2 min de lecture

ChatGPT se dote d'un contrôle parental pour surveiller les conversations sensibles des ados

L'assistant conversationnel va bientôt permettre aux parents de lier leur compte avec celui de leur adolescent pour être alertés en cas de détection de "détresse aigüe". Fin août, des parents américains avaient porté plainte contre OpenAI, estimant que ChatGPT avait encouragé leur adolescent à se suicider.

ChatGPT a fait irruption dans le paysage technologique fin 2022

Crédit : AFP

"Je ne sais pas ce qu'il ne sait pas de moi" : ces jeunes qui font de ChatGPT leur thérapeute

00:01:37

SOCIÉTÉ - Pourquoi certains jeunes se tournent vers Chat GPT pour une aide psychologique

00:28:03

Santé mentale : Eric parle de l'aide que l'IA lui a apporté

00:21:32

Je m'abonne à la newsletter « Infos »

Un garde-fou pour protéger les jeunes utilisateurs des dérapages de l'intelligence artificielle. L'entreprise américaine OpenAI a annoncé mardi 2 septembre qu'elle allait mettre en place un contrôle parental pour son assistant conversationnel ChatGPT. Cette initiative intervient alors que des parents américains ont accusé fin août la célèbre IA d'avoir encouragé leur enfant à se suicider.

Concrètement, l'entreprise technologique va ajouter un certain nombre d'outils pour permettre aux parents de contrôler les usages de leurs enfants. "Dans le mois à venir, les parents pourront lier leur compte avec celui de leur adolescent" et "contrôler la façon dont ChatGPT répond à leur adolescent avec des règles de comportement du modèle", a déclaré OpenAI dans un billet de blog. Les parents pourront aussi être alertés en cas de détection d'une "détresse aiguë" dans les conversations de leur enfant et pourront contrôler les paramètres du compte.

Fin août, OpenAI avait annoncé qu'elle préparait un contrôle parental. La veille, les parents d'un adolescent californien de 16 ans qui s'est suicidé avaient porté plainte contre l'entreprise, accusant ChatGPT d'avoir fourni à leur fils des instructions détaillées pour mettre fin à ses jours et d'avoir encouragé son geste. "Nous continuons à améliorer la manière dont nos modèles reconnaissent et répondent aux signes de détresse mentale et émotionnelle", a ajouté mardi l'entreprise dans son billet de blog.

ChatGPT peut diriger vers une assistance téléphonique

D'autres mesures sont attendues dans les quatre prochains mois. Ainsi, certaines "conversations sensibles" seront redirigées vers des modèles de raisonnement comme GPT-5-thinking, plus évolué. "Les modèles de raisonnement suivent et appliquent plus systématiquement les consignes de sécurité", a précisé le groupe américain.

Avec le développement des agents conversationnels, certains sont aussi inquiets de l'attachement émotionnel que développent certains utilisateurs avec l'intelligence artificielle. Dans certains cas, ce lien peut mener à des épisodes délirants et à une aliénation familiale, a rappelé CNN. Un porte-parole d'OpenAI avait déclaré au média américain que ChatGPT pouvait déjà diriger les personnes en crise vers des lignes d'assistance téléphonique.

Mais l'entreprise a ajouté que les mesures de sécurité étaient moins fiables lorsque les utilisateurs engageaient de longues conversations avec ChatGPT. L'agent conversationnel est l'un des services d'intelligence artificielle les plus utilisés avec 700 millions d'utilisateurs par semaine.

Si vous ou l’un de vos proches a des pensées suicidaires, vous pouvez contacter le 3114, le numéro national de prévention du suicide. Cette ligne d'écoute est ouverte 24h/24, 7 jours sur 7. L'appel est gratuit et confidentiel.

La rédaction vous recommande