A Amazon decidiu descartar um algoritmo desenvolvido para seleção e recrutamento de novos funcionários para a empresa, e o motivo é interessante. A empresa constatou que o sistema de inteligência artificial, desenvolvido com base em dados de currículos recebidos ao longo de 10 anos, ganhou um viés sexista.

Como informa a agência Reuters, o problema é que a maioria das fichas de inscrição recebidas pela Amazon ao longo do período eram de homens. Diante dessa situação, o sistema acabou criando uma tendência a preferir candidatos masculinos para as vagas, simplesmente porque o banco de dados era majoritariamente masculino.

A publicação menciona que o sistema foi desenvolvido em 2014 para facilitar o processo de seleção, de forma que, se a empresa tivesse 100 candidatos para uma vaga, o algoritmo seria capaz de escolher os cinco mais indicados para a posição, com base em uma pontuação de uma a cinco estrelas.

No entanto, a partir de 2015, ficou evidente que o sistema estava com problemas para analisar os currículos de mulheres. O algoritmo começou a penalizar as fichas que mencionavam a palavra “mulher”, fazendo com que candidatos do sexo masculino fossem privilegiados no processo seletivo.

Diante dessa descoberta, os desenvolvedores do algoritmo fizeram ajustes para que o sistema se tornasse neutro em relação ao gênero do candidato. No entanto, ficou evidente que a tecnologia simplesmente não era confiável para a tarefa, e no fim das contas a Amazon preferiu cancelar o projeto de forma definitiva.

A publicação cita que recrutadores da Amazon chegaram a utilizar o sistema para filtragem de candidatos, mas eles nunca se basearam exclusivamente nele para bater o martelo sobre a contratação de alguém.