2 min de lecture
La carte de paiement d'Apple est-elle sexiste ?
Une enquête a été ouverte par le régulateurs des services financiers de l'État de New-York après des accusations de discriminations en raison du sexe sur les limites de crédits accordées par la carte de paiement Apple Card.
La version physique de l'Apple Card
Crédit : Apple
Je m'abonne à la newsletter « Infos »
Les hommes sont-ils plus solvables que les femmes ? Un entrepreneur de New-York a accusé la carte de paiement Apple Card d'être "un programme sexiste" dans une série de tweet. La raison : si lui et sa femme "déclarent leur impôt conjointement", le mari a une limite de crédit 20 fois plus élevés que sa femme.
L'entrepreneur danois vivant aux Etats-Unis David Heinemeier Hansson raconte ses discussions infructueuses avec le service client d'Apple et pestant contre l'impossibilité à expliquer pourquoi l'algorithme a décidé que sa femme était moins éligible à des crédits que lui.
La carte Apple Card a été réalisée en collaboration avec deux autres entreprises, Goldman Sach et Mastercards. Le co-fondateur d'Apple Steve Wozniak, plus dans l'entreprise, a témoigné d'une expérience similaire.
Boîte noire
"Ma femme et moi-même déclarons nos impôts conjointement et nous sommes mariés depuis très longtemps. Et pourtant l'algorithme +boîte noire+ d'Apple pense que j'ai le droit à une limite de crédit 20 fois plus élevée qu'elle", a-t-il continué.
La qualification de "boîte noire" désigne des systèmes d'intelligence artificielle dont on ne parvient pas à expliciter les raisons ayant conduit aux décisions qu'ils prennent. "Ce n'est pas une intention de discrimination de genre, mais c'est un résultat de discrimination de genre", a analysé David Heinemeier Hansson.
"Nos décisions en terme de crédit sont fondées sur la solvabilité des clients et non pas sur le genre, la race, l'âge, l'orientation sexuelle ou tout autre facteur interdit par la loi", a répondu Andrew Williams, porte-parole de Goldman Sachs.
Nous allons "mener une enquête pour déterminer si la loi de New York a été enfreinte et nous assurer que tous les consommateurs sont traités de manière égale quel que soit leur sexe", a déclaré un porte-parole de Linda Lacewell, directrice du département des services financiers de New York. Le régulateur avait quelques semaines plus tot ouvert une enquête contre le géant de la santé UnitedHealth Group Inc. après qu'une étude a révélé qu'un algorithme favorisait les patients blancs plutôt que les patients noirs, rappelle le titre américain Bloomberg.
