O Apple Card, cartão de crédito da Apple, será investigado por discriminação contra mulheres. Tudo começou quando David Heinemeier Hansson, criador do popular framework para desenvolvimento web Ruby on Rails, publicou um tuíte em que critica a política usada para definir os limites de crédito no cartão.
Embora viva em comunhão total de bens com sua esposa há vários anos e façam declaração de imposto de renda conjunta, David afirma que sua conta no Apple Card recebeu um limite de crédito 20 vezes maior que a de sua esposa.
The @AppleCard is such a fucking sexist program. My wife and I filed joint tax returns, live in a community-property state, and have been married for a long time. Yet Apple’s black box algorithm thinks I deserve 20x the credit limit she does. No appeals work.
— DHH (@dhh) November 7, 2019
Tentativas de contatar o serviço de atendimento da Apple foram em vão, com vários atendentes dizendo não ser capazes de interferir em decisões tomadas pelo “algoritmo”, embora não pudessem dizer quais os critérios usados.
O tuíte de Hansson gerou respostas de vários usuários relatando uma situação similar, entre eles Steve Wozniak, co-fundador da Apple, afirmando que conseguiu um limite de crédito 10x superior ao da sua esposa, mesmo que ambos tenham contas bancárias e bens conjuntos. Segundo ele “é difícil falar com um humano para conseguir uma correção”.
The same thing happened to us. I got 10x the credit limit. We have no separate bank or credit card accounts or any separate assets. Hard to get to a human for a correction though. It’s big tech in 2019.
— Steve Wozniak (@stevewoz) November 10, 2019
Como consequência, um porta-voz do Departamento de Serviços Financeiros (DFS) de Nova York disse que o órgão irá iniciar uma investigação do serviço.
“Qualquer algoritmo que intencionalmente ou não resulte em tratamento discriminatório de mulheres ou qualquer outra classe protegida viola a lei de Nova York”, disse um porta-voz da agência ao The New York Times. “A DFS está preocupada em saber sobre o possível tratamento discriminatório em relação às decisões de limite de crédito supostamente tomadas por um algoritmo do Apple Card, emitido pela Goldman Sachs, e o Departamento conduzirá uma investigação para determinar se a lei de Nova York foi violada e garantir a todos os consumidores são tratados igualmente, independentemente do sexo. “
Em uma declaração, o Goldman Sachs negou que seus algoritmos discriminassem dessa maneira. “Em todos os casos, não tomamos e não tomaremos decisões com base em fatores como sexo”, disse o porta-voz da empresa, Andrew Williams.
Fonte: The Verge
Tags: