Um algoritmo que ajuda hospitais e seguradoras a administrar as condições de saúde de seus pacientes foi analisado por pesquisadores americanos. Eles determinaram que o sistema funcionava com um viés racial, que barrava pessoas negras de ter os cuidados de saúde necessários.

Os resultados do estudo foram publicados pela revista Science e são enfáticos ao atestar que o algoritmo tinha menos probabilidade de encaminhar pessoas negras, tão doentes quanto as brancas, a programas para pacientes com necessidades médicas complexas.

O principal autor do estudo, Ziad Obermeyer, da Faculdade de Medicina da Universidade da Califórnia, explicou que, ao verificar as estatísticas de rotina de um hospital, descobriu que as pessoas que se definem como negras tinham classificações de risco mais baixas.

Como resultado, ele diz que esses pacientes eram menos propensos a serem encaminhados para programas que fornecem atendimento mais especializado, fazendo com que as doenças se agravassem.

No estudo, eles determinaram que o algoritmo “atribui classificações de risco aos pacientes com base nos custos totais de assistência médica acumulados em um ano”. Sob essa suposição, um paciente com maiores despesas está associado a uma necessidade maior de cuidados.

No entanto, ao analisar os dados, eles descobriram que pessoas negras tinham uma maior prevalência de doenças como diabetes, anemia, insuficiência renal e pressão alta. Eles também determinaram que os cuidados com esses pacientes custam US$ 1.800 a menos por ano em relação aos cuidados prestados a uma pessoa branca, que apresentavam a mesma condição crônica.

Portanto, estima-se que apenas 17,7% dos pacientes negros recebem todos os cuidados adicionais necessários. O que significa que eles tinham que estar mais doentes do que os brancos para serem encaminhados para cuidados especializados.

Ao procurar uma explicação, os cientistas especularam que esses dados estão associados ao racismo sistêmico. O que expressa diretamente a diferença de tratamento do sistema e até a discriminação direta de prestadores de serviço.

O próprio Obermeyer comunicou os resultados aos desenvolvedores do algoritmo, que decidiram agir e resolver o problema com a ajuda dos cientistas.

Eles trabalharam em diferentes variáveis relacionadas aos custos dos cuidados médicos e isso reduziu, na teoria, a diferenciação racial em 84%. O pesquisador diz que “essas soluções são fáceis de resolver no sentido de engenharia de software: você simplesmente executa o algoritmo novamente com outra variável. Mas a parte difícil é: qual é essa outra variável? Como você resolve o preconceito e a injustiça inerentes a essa sociedade?”.