TikTok accusé de proposer des comptes à suivre en fonction de l'apparence physique

C'est une nouvelle illustration du fonctionnement opaque des algorithmes qui régissent le fonctionnement des plateformes sur lesquelles nous passons l'essentiel de nos vies numériques. Lorsqu'il a installé TikTok, la deuxième application la plus téléchargée de 2019, le chercheur en intelligence artificielle Marc Faddoul a constaté que les profils recommandés par le réseau social étaient étrangement similaires à la photo du premier compte qu'il avait suivi. Comme si l'algorithme de recommandation se basait sur l'apparence physique et la couleur de peau.

Après avoir suivi une jeune femme blonde, par exemple, l'algorithme de recommandation de l'application lui a suggéré de suivre davantage de jeunes femmes blondes. Selon la même logique, suivre le profil d'un homme noir a généré des recommandations de comptes d'autres hommes noirs. Pareil pour les hommes asiatiques ou les hommes blancs avec une barbe.

L'expérience menée par le chercheur de l'Université de Californie n'est pas une étude scientifique. Mais elle reflète le fonctionnement de l'application lorsqu'un nouvel inscrit débarque sur la plateforme. Selon nos constatations, les recommandations proposées par TikTok sont souvent liées à l'apparence physique et à la couleur de peau des personnes suivies. Mais ce n'est pas systématique.

En suivant un compte à l'effigie de la chanteuse Aya Nakamura, le réseau social nous a effectivement proposé de nous abonner à d'autres comptes de jeunes femmes noires. Idem en s'abonnant à Britney Spears ou à Miley Cyrus. L'algorithme nous a ensuite suggéré des profils de jeunes femmes blanches. Et une inscription au profil du groupe de K-pop coréen BTS a débouché sur une sélection de profils de jeunes hommes asiatiques.

Mais certaines recherches ont produit des résultats différents. En suivant l'acteur américain Will Smith, TikTok nous a recommandé les comptes du rappeur Post Malone et de l'humoriste Jimmy Fallon, deux hommes blancs. Des internautes ont également indiqué sur Twitter qu'elles avaient aussi observé des résultats différents de ceux de Marc Faddoul.

TikTok défend des suggestions basées sur le comportement

Contacté par RTL.fr, TikTok rejette ces accusations de biais physiques ou raciaux et fait savoir qu'il "n'a pas pu reproduire les résultats présentés" par le chercheur américain. "Notre recommandation de comptes à suivre est basée sur le comportement des utilisateurs et sur leur interaction avec la plateforme. Les utilisateurs qui suivent le compte A suivent également le compte B, donc si vous suivez A, il est probable que vous vouliez également suivre B", souligne le réseau social.

L'expérience de Marc Faddoul a néanmoins le mérite d'interroger le fonctionnement des algorithmes de recommandation des plateformes et leur impact sur l'expérience des utilisateurs. Soucieux de générer toujours plus d'engagement, les réseaux sociaux ont tendance à présenter à leurs utilisateurs des contenus personnalisés qui reflètent leurs opinions. Mais à terme, ces derniers ont tendance à confirmer leurs biais préexistants et déformer leur vision du monde.

Dans le cas de TikTok, qui n'est pas forcément une plateforme d'information, un tel système pourrait être problématique car il pourrait reproduire des discriminations sociétales et empêcher l'émergence d'influenceurs issus de minorités.