3 min de lecture Connecté

Facebook va espionner ses utilisateurs pour détecter les comportements suicidaires

Le réseau social va généraliser une intelligence artificielle passant au crible les messages des utilisateurs pour prévenir les suicides. Le système ne sera pas mis en place en Europe où la réglementation l'interdit.

Le célèbre News Feed de Facebook
Le célèbre News Feed de Facebook Crédit : TechCrunch
BenjaminHuepro
Benjamin Hue
et AFP

Facebook passe la seconde dans la traque des comportements suicidaires. Désireux de ne pas voir sa plateforme s'imposer comme un canal privilégié pour relayer ce type de comportements, le réseau social aux 2 milliards d'utilisateurs a annoncé lundi 27 novembre le déploiement d'un système d'intelligence artificielle visant à identifier plus rapidement les membres du réseau en proie aux idées suicidaires pour les aider.

Cette technologie de détection se veut proactive. Elle passera au crible les messages des utilisateurs ainsi que les vidéos mises en ligne en direct sur Facebook Live, pour détecter des indices et avertir plus rapidement le personnel de Facebook et les organisations d'aide spécialisée.

"Cette approche utilise une technologie de reconnaissance de types de comportement pour aider à identifier les messages et les vidéos en direct qui expriment potentiellement des pensées suicidaires", a écrit dans aune note de blog le vice-président de gestion des produits de Facebook, Guy Rosen. Le système d'intelligence artificielle scannera les messages de membres mais aussi les réponses de leurs amis qui pourraient par exemple leur demander si tout va bien ou "qu'est-ce que je peux faire pour t'aider?", explique Guy Rosen. 

À lire aussi
Une table de mixage (Illustration) Connecté
21 juin 2042 : la "world song" vient de trouver son hymne consensuel

Une centaine de cas signalés le mois dernier

Si un message suicidaire est détecté, la réseau social proposera directement de l'aide à la personne concernée à travers un message pop-up. L'utilisateur sera alors invité à contacter un ami, lire des conseils ou entrer en contact avec les secours ou une association partenaire. Idem si un utilisateur est témoin d'une personne au comportement inquiétant, plusieurs options s'offriront à lui après son signalement. Facebook affirme qu'une centaine de cas ont ainsi été détectés le mois dernier.

Facebook veut prévenir les suicides de ses membres
Facebook veut prévenir les suicides de ses membres Crédit : Facebook

Facebook a déjà mis en place des outils permettant à ses utilisateurs de signaler si un ami semble vouloir mettre fin à ses jours, mais l'intelligence artificielle permet de signaler plus rapidement ces informations et même de détecter des signaux que les membres pourraient ne pas déceler. L'intelligence artificielle se pose comme un nouveau canal de détection des comportements suicidaires, venant en appui des modérateurs humains de Facebook pour réduire le délai préalable à une intervention.

"De terribles évènements tragiques - dont des suicides, certains diffusés en direct - auraient peut-être pu être évités si quelqu'un s'était rendu compte de ce qui se passait et en avait fait part plus tôt", avait déclaré le patron de Facebook, Mark Zuckerberg, en février. "L'intelligence artificielle peut aider à offrir une meilleure approche", poursuivait-il dans une lettre ouverte.

Un système interdit en Europe

Après l'avoir testé aux États-Unis, Facebook va déployer ce système d'intelligence artificielle dans d'autres pays. "Il finira par être disponible partout dans le monde, sauf dans l'Union européenne", souligne Guy Rosen sans plus de précisions. Les données personnelles et leur traitement automatisé sont soumis dans l'Union à une réglementation plus stricte qu'aux États-Unis. Le règlement européen sur la protection des données personnelles qui entrera en vigueur en mai 2018 interdit le profilage et la surveillance à grande échelle des internautes. 

Le déploiement d'une technologie consistant en une analyse systématique du contenu des messages des membres de Facebook n'est pas sans soulever des inquiétudes sur ses autres utilisations potentielles. Responsable de la sécurité chez Facebook, Alex Stamos a admis dans TechCrunch que ce dispositif pouvait faire peur et souligné la nécessité de définir des limites pour éviter les utilisations malveillantes.

La rédaction vous recommande
Lire la suite
Connecté Suicide Société
Restez informé
Commentaires

Afin d'assurer la sécurité et la qualité de ce site, nous vous demandons de vous identifier pour laisser vos commentaires. Cette inscription sera valable sur le site RTL.fr.

Connectez-vous Inscrivez-vous

500 caractères restants

fermer
Signaler un abus
Signaler le commentaire suivant comme abusif
500 caractères restants
article
7791174785
Facebook va espionner ses utilisateurs pour détecter les comportements suicidaires
Facebook va espionner ses utilisateurs pour détecter les comportements suicidaires
Le réseau social va généraliser une intelligence artificielle passant au crible les messages des utilisateurs pour prévenir les suicides. Le système ne sera pas mis en place en Europe où la réglementation l'interdit.
https://www.rtl.fr/actu/futur/facebook-va-espionner-ses-utilisateurs-pour-detecter-les-comportements-suicidaires-7791174785
2017-11-28 20:32:00
https://cdn-media.rtl.fr/cache/QUaHcicrUl6A5uZWCDPW_g/330v220-2/online/image/2017/0316/7787699429_les-stories-s-appretent-a-debarquer-dans-facebook.jpg