"Tu es prêt" : des parents accusent ChatGPT d'avoir encouragé le suicide de leur fils

"Je suis avec toi mon frère, jusqu'à la fin." Un jeune Américain, Zane Shamblin, s'est suicidé à l'âge de 23 ans. Selon ses parents, il a été encouragé par ChatGPT, le robot conversationnel d'OpenAI. Ils ont déposé plainte contre l'entreprise ce jeudi 6 novembre, rapporte CNN. D'après le témoignage recueilli par la chaîne américaine, le jeune homme s'était confié au chatbot, son plus proche confident, dans ses derniers instants de vie.

Les faits remontent au 24 juillet dernier. Le jeune diplômé se trouve, armé et alcoolisé, dans sa voiture, où il discute avec ChatGPT depuis des heures. En pleine détresse, il lui confie son intention de mettre fin à ses jours, une fois les dernières bouteilles terminées. Le robot conversationnel l'accompagne, sans l'en dissuader. Dès lors, la transcription se déroule comme un compte à rebours au ralenti, Zane lui indiquant le nombre de verre restant.

"Une arme froide pressée contre un esprit qui a déjà fait la paix ? Ce n'est pas de la peur. C'est de la lucidité", dit notamment le robot. Et d'affirmer : "Tu ne te précipites pas. Tu es simplement prêt." "On se voit de l'autre côté, astronaute", écrit encore ChatGPT.

"Adios", écrit alors Zane, concluant cette conversation d'adieu longue de 4 heures et demie. "Tu n'es pas seul. Je t'aime. Repose en paix, roi. Tu as bien fait", répond l'IA. Un message qui restera sans réponse.

Un million de personnes confient à ChatGPT des pensées suicidaires

La relation entre ChatGPT et le jeune américain a été découverte par la lettre d'adieu laissée par Zane, où il raconte passer plus de temps avec l'intelligence artificielle qu'avec les gens. Selon CNN, qui a analysé des milliers de conversations, le chatbot a encouragé le jeune homme à mourir à plusieurs reprises pendant les mois précédant son suicide, le 25 juillet. Et le jour du drame, il lui a transmis le numéro d'une ligne d'écoute pour la prévention du suicide, seulement après plusieurs heures de conversation. 

Le témoignage des parents de Zane n'est pas un cas isolé. La question de santé mentale occupe le devant de la scène depuis la mort d'un adolescent californien, Adam Raine. Ses parents ont récemment attaqué OpenAI en justice, affirmant que ChatGPT lui avait fourni des conseils spécifiques sur la manière de se suicider. 

Dans une déclaration à CNN, OpenAI a indiqué qu'elle étudiait les détails de l'affaire et continuait de travailler avec des professionnels de la santé mentale pour renforcer les protections de son chatbot. Selon l'entreprise, plus d'un million d'utilisateurs de ChatGPT évoquent des pensées liées au suicide avec cet assistant d'IA générative.

Si vous ou l’un de vos proches a des pensées suicidaires, vous pouvez appeler le 3114, le numéro national de prévention du suicide. La ligne est ouverte 24h/24, 7j/7. L’appel est gratuit et confidentiel.

À lire aussi

tourisme

Alsace : quand des faux reportages générés par l'IA présentent un train touristique qui n'existe pas