"Je vois des gens se faire tuer sur chaque post" : pourquoi Instagram a diffusé des vidéos violentes à ses utilisateurs

Pour scroller sur Instagram ces dernières heures, mieux valait avoir le coeur bien accroché. Ce mercredi 26 février, de nombreux utilisateurs du réseau social se sont étonnés de voir leurs fils d'actualité remplis de vidéos violentes ou à caractère sexuel. Mises en avant par les algorithmes au sein de l'onglet Reels, dédié aux courtes vidéos verticales à la Tiktok, ces publications mettent en scène des meurtres, des accidents, des actes de mutilation, des corps carbonisés mais aussi des ébats sexuels. Des contenus qui ne sont pas autorisés par la politique de modération du groupe Meta. Ces séquences sont des contenus recommandés, c'est-à-dire qu'elles émanent de comptes auxquels les utilisateurs ne sont pas abonnés. Certaines sont précédées d'un avertissement annonçant un contenu sensible, d'autres s'affichent directement.

Les témoignages, pour l'essentiel anglophones, se sont multipliés depuis mercredi sur des plateformes comme X ou TikTok pour mettre en garde les internautes. "Je viens juste de voir quelqu'un se faire tirer dessus et je n'ai même pas reçu d'avertissement. Qu'est-ce qui arrive à ton application, Instagram ?", s'est demandée une utilisatrice. "Dites-moi pourquoi Instagram me montre des vidéos de gens en train de mourir en tombant d'immeubles et de montagnes russes ? Pas de flou, pas de censure. Juste la mort sous les yeux", a déploré une autre. "Euh, Instagram, il y a des enfants qui utilisent ton application. Pourquoi je vois des gens se faire tuer sur presque chaque post ?", a dénoncé un usager.  Des utilisateurs ont affirmé avoir été confronté à ces contenus alors qu'ils avaient pourtant activé les paramètres de modération les plus restrictifs censés les protéger de telles images.

Meta reconnaît une erreur qui ne serait pas liée à l'allègement de sa modération

Mis en cause, le groupe Meta a reconnu "une erreur", qui serait désormais corrigée, et présenté des excuses aux internautes. "Nous avons corrigé une erreur qui faisait que certains utilisateurs voyaient dans leur fil Instagram Reels du contenu qui n’aurait pas dû être recommandé. Nous nous excusons pour cette erreur", a déclaré un porte-parole de Meta dans un communiqué publié dans la presse américaine. Le groupe n'a pas commenté davantage l'origine du dysfonctionnement, se contentant de souligner que cette vague de vidéos violentes n'aurait pas de lien avec l'assouplissement de sa politique de modération opérée en début d'année pour prêter allégeance à Donald Trump de retour à la Maison Blanche. 

Les problèmes d'affichage sur les Reels d'Instagram surviennent huit semaines à peine après l'annonce par Meta de la modification de ses systèmes de modération des contenus, avec une diminution de la modération automatique au profit des signalements d'utilisateurs, afin de diminuer les erreurs pouvant conduire à la censure des internautes. Une évolution en phase avec la conception de la liberté d'expression des conservateurs américains et la ligne défendue par la nouvelle administration du pays.

Jusqu'à présent, la modération des contenus sur les réseaux sociaux du groupe (Instagram, Facebook, WhatsApp et Messenger) était le fruit d'une combinaison de moyens humains, avec environ 15.000 examinateurs chargés d'analyser et de détecter les images sensibles à travers le monde, et d'outils technologiques, censés supprimer la grande majorité des contenus interdits avant même que les utilisateurs ne les aient signalés. Meta a expliqué début janvier qu'il allait faire évoluer ses systèmes automatisés, qui rechercheraient plus "toutes les violations de la politique" mais plutôt "les violations illégales et très graves, comme le terrorisme, l'exploitation sexuelle des enfants, la drogue, la fraude et les escroqueries", s'en remettant aux signalements des utilisateurs pour les violations les moins graves. 

L'incident intervient alors qu'Instagram serait sur le point de lancer une application uniquement dédiée à la fonctionnalité Reels, l'une des plus dynamiques du réseau social, pour jouer sur les plates-bandes de TikTok et partir à la reconquête des jeunes internautes.