TikTok ne parvient pas à empêcher la diffusion d'une vidéo de suicide

TikTok est rattrapé par ses vieux démons. L'application de partage de vidéos très populaire auprès des adolescents tente depuis dimanche 6 septembre d'empêcher la diffusion d'une vidéo montrant un homme en train de se suicider en se tirant une balle dans la tête. Apparue à la fin du week-end, la séquence est rapidement devenue virale au point d'apparaître parmi les clips les plus populaires mis en avant par l'algorithme de recommandations de l'application sur la page d'accueil "Pour vous", qui propose de nombreux contenus de comptes auxquels les utilisateurs ne sont pas abonnés.

Malgré les signalements et les nombreuses mises en garde diffusées sur les réseaux sociaux, un grand nombre d'utilisateurs ont été amenés à visionner les images, dont un public parfois très jeune. Selon une étude App Lab de 2019, 20% des utilisateurs de TikTok sont âgés de 10 à 19 ans et 43% des moins de 13 ans affirment utiliser l'application en France. Des centaines de témoignages d'adolescents choqués du visionnage de ces images ont été partagés sur les réseaux sociaux ces dernières heures.

Un porte-parole de TikTok a confirmé à la presse américaine que la vidéo avait commencé à circuler dimanche soir et qu'il s'agissait d'un clip initialement publié sur d'autres plateformes en fin d'année dernière. TikTok s'est empressé de la supprimer mais de nombreuses personnes l'ont remis en ligne par la suite, certains la dissimulant au sein de vidéos en apparence inoffensives, empêchant la plateforme de contenir sa diffusion. 

"Nos systèmes détectent et signalent automatiquement les clips dont le contenu viole nos conditions en affichant, louant ou encourageant le suicide. Nous bannissons tous les comptes qui tentent de télécharger la vidéo à plusieurs reprises. Nous apprécions que nos utilisateurs aient mis en garde leur communauté contre cette vidéo", a réagi un porte-parole de TikTok.

Un algorithme propice à la diffusion de contenus problématiques

Le phénomène rappelle le mouvement qui avait suivi la fusillade de Christchurch, en avril 2019. Un homme avait diffusé en direct les images de son massacre dans une église sur Facebook et des milliers de vidéos avait ensuite repris, remonté et partagé ces images pour empêcher leur blocage par les algorithmes de Facebook et des autres plateformes.

Les plateformes ont toutes les peines du monde à empêcher la diffusion d'images déjà censurées mais légèrement modifiées pour tromper leurs algorithmes de reconnaissance visuelle. Il faut souvent plusieurs minutes à plusieurs heures pour signaler et détecter les clips problématiques, un intervalle largement suffisant pour permettre aux internautes mal intentionnés de diffuser massivement les images sur plusieurs plateformes.

Malgré les mesures mises en oeuvre ces dernières années pour renforcer sa modération, TikTok est une cible de choix pour ces personnes en raison de la facilité avec laquelle son algorithme facilite le partage de nouvelles vidéos basées sur celles que vient de regarder un utilisateur. Fin 2018, la plateforme avait été épinglée pour avoir laissé prospérer des contenus sexuels, conspirationnistes ou antisémites. Plus récemment, un challenge viral dangereux avait occasionné des blessures chez certains utilisateurs.

L’actualité par la rédaction de RTL dans votre boîte mail.

Grâce à votre compte RTL abonnez-vous à la newsletter RTL info pour suivre toute l'actualité au quotidien

Je créé mon compte Se connecter

S’abonner à la Newsletter RTL Info