Pourquoi Twitter se retrouve accusé de racisme ?

C'est une nouvelle illustration du manque de transparence des algorithmes. Twitter fait depuis quelques jours l'objet d'une vague d'indignation en raison du comportement prétendument raciste de ses algorithmes à l'œuvre dans l'affichage des aperçus des photos sur la version mobile de son application. 

Des utilisateurs ont découvert que le système de prévisualisation des images privilégie visiblement les visages des personnes de couleur blanche à ceux des personnes noires lorsqu'il faut recadrer une photo afin qu'elle apparaisse de façon lisible dans l'aperçu d'une image dans un tweet sur smartphone.

Cette fonction est automatique. Elle a été mise en place par Twitter dans un souci d'harmonisation pour éviter que des images de formats différents ne cohabitent sur sa version mobile. Lorsqu'un utilisateur publie une image, la plateforme la recadre afin que son aperçu apparaisse dans un format prédéfini. Mais c'est le système, et non l'utilisateur, qui choisit la partie de la photo qui s'affiche dans cet échantillon.

Twitter privilégie-t-il les peaux blanches ?

À l'origine de la découverte, un utilisateur a voulu dénoncer un biais raciste du logiciel Zoom en publiant une capture d'écran sur Twitter. Il s'est aperçu que la partie de l'image dans laquelle figure l'un de ses collègues, une personne noire, avait été occultée dans l'aperçu par défaut proposé par la plateforme sur mobile. Et cela, même quand l'image est pivotée. Il en a donc conclu que l'algorithme de Twitter préfère les visages blancs aux visages noirs. 

Les internautes se sont rapidement emparés du problème. Des dizaines d'images ont été publiées sur Twitter pour mettre le système à l'épreuve et vérifier ce biais. L'une des plus partagées affiche les visages de l'ancien président américain Barack Obama et du chef républicain du Sénat, Mitch McConnel. Que leurs visages soient inversés ou non, Twitter semble systématiquement afficher celui du sénateur en aperçu.

Plusieurs cadres de Twitter ont répondu aux accusations. Le responsable du design de l'application affirme que le choix du recadrage automatique dépend en grande partie du contraste du visage et non de la couleur de peau. Selon lui, le visage de l'utilisateur de Zoom a été préféré à celui de collègue noir par l'algorithme car ce dernier est moins visible à cause de la barbe qui recouvre son visage. Des utilisateurs lui ont cependant opposé des contre-exemples. 

Un problème dans l'objet initial de l'algorithme

En attendant la publication d'un test de grande envergure sur le sujet, un ingénieur logiciel de Twitter a rappelé que ce choix de présentation est la conséquence de la mise en place en 2018 d'un nouvel algorithme censé détecter la partie la plus importante d'une photo à mettre en avant dans l'aperçu d'une image dans un tweet. 

Le précédent système se contentait de détecter les visages sur une image pour les placer au centre de l'aperçu, ce qui causait des problèmes pour les photos ne contenant pas de visage. Twitter a alors décidé de baser le fonctionnement de son algorithme sur le concept de "prépondérance", c'est-à-dire qu'il choisit "ce qu'il y a de plus important dans une photo", par exemple, un visage, un texte, un animal ou un objet. 

Les spécialistes de Twitter se sont basés sur différentes études scientifiques pour définir ce qui constitue "les zones saillantes" d'une image, celles que les internautes sont le plus susceptibles de regarder face à l'image entière. Ils ont ensuite entraîné leurs algorithmes à recadrer les photos en fonction de ces critères. Et des audits auraient été menés pour s'assurer qu'ils ne perpétuent pas des biais éthiques. Mais il est impossible d'évaluer leur rigueur car ces analyses n'ont jamais été publiées.

En se plaçant en position de déterminer quelle personne est la plus importante dans une image, Twitter s'est lesté d'une lourde responsabilité, qu'il doit aujourd'hui assumer. L'entreprise a annoncé l'ouverture d'une enquête, dont les résultats seront rendus publics, pour vérifier le comportement de son algorithme. En attendant, des utilisateurs demandent à la société de ne plus y avoir recours et de pouvoir choisir par eux-même les éléments qu'ils souhaitent mettre en avant dans l'aperçu des photos qu'ils publient.

L’actualité par la rédaction de RTL dans votre boîte mail.

Grâce à votre compte RTL abonnez-vous à la newsletter RTL info pour suivre toute l'actualité au quotidien

Je créé mon compte Se connecter

S’abonner à la Newsletter RTL Info