Sexisme : L’algorithme de l’Apple Card n’accorde pas la même limite de crédits aux utilisateurs en fonction de leur sexe

Le jeudi 7 novembre 2019, l’entrepreneur David Heinemeier Hansson, créateur du framework d’application Web Ruby a publié une série de publications sur Twitter dans lesquelles il accusait l’algorithme d’Apple Card de sexisme. En effet, cet entrepreneur affirmait que la carte de crédit lui accordait 20 fois plus de limites de crédit qu’à son épouse.
Une accusation soutenue par le cofondateur d’Apple, Steve Wozniak, lui-même qui a déclaré à son tour que sa femme et lui rencontraient également le même problème en ce sens que l’Apple Card lui accorde 10 fois plus de limites de crédit qu’à sa femme.
Rappelons que l’Apple Card est une carte de crédit conçue par le géant de la technologie Apple en collaboration avec Goldman Sachs Group. Selon les informations de The New York Post, la nouvelle initiative a été lancée en août 2019 aux États-Unis. Les nombreuses critiques sont rapidement arrivées aux oreilles des autorités de réglementation de l’État de New York qui ont assuré l’ouverture d’une enquête sur les critères pris en compte par l’algorithme en matière de fixation de crédit.
Selon Reuters, la directrice du Département des services financiers (DFS) de l’État de New York, Linda Lacewell, a tenu à souligner dans un communiqué paru dans la soirée du samedi 9 novembre 2019 que « la loi new-yorkaise interdit la discrimination à l’encontre des catégories de personnes protégées ».
Le DFS enquêtera sur les paramétrages de l’Apple Card
Linda Lacewell a ainsi déclaré sans détour que « tout algorithme entraînant intentionnellement ou un non un traitement discriminatoire à l’égard des femmes ou de toute autre classe protégée viole la loi de New York ».
Cette porte-parole a également rapporté que le « DFS est troublé d’apprendre un traitement discriminatoire potentiel concernant les décisions de limite de crédit qui auraient été prises par un algorithme d’Apple Card conçu avec Goldman Sachs et le département mènera une enquête pour déterminer si la loi de New York a été violée et garantir que tous les consommateurs soient traités sur un même pied d’égalité, sans distinction de sexe ».
De leur côté, Goldman Sachs a également fait savoir via son porte-parole Andrew Williams que les « décisions en matière de crédit reposent sur la solvabilité du client et non sur des facteurs tels que le sexe, la race, l’âge, l’orientation sexuelle ou toute autre base interdite par la loi ».
Une « prime VIP » insuffisante pour régler le problème
Toutefois, cette réponse n’a pas été pour apaiser les critiques puisque le même samedi, Wozniak, qui avait une limite de crédit 10 fois supérieure à celle de sa femme a déclaré sur Twitter : « Nous n’avons pas de comptes bancaires ou de cartes de crédit distincts ni d’actifs distincts ». Et de son côté, Hansson a également assuré sur Twitter que : « nous avons produit des déclarations de revenus communes, vivons dans un état de propriété commune et sommes mariés depuis longtemps ».
Malgré tout, le vendredi 8 novembre 2019, soit un jour après sa publication, Hansson a déclaré que sa femme avait reçu une « prime VIP » d’Apple Card qui remettait à égalité la limite de crédit du couple. Mais, selon Hansson, cela ne suffisait pas à compenser la bourde faite par l’algorithme d’Apple Card.
The @AppleCard is such a fucking sexist program. My wife and I filed joint tax returns, live in a community-property state, and have been married for a long time. Yet Apple’s black box algorithm thinks I deserve 20x the credit limit she does. No appeals work.
— DHH (@dhh) November 7, 2019