Um post publicado no Twitter e compartilhado mais de 6 mil vzes em suas primeiras 24 horas no ar está gerando polêmica. No centro da discussão está, mais uma vez, o potencialmente racista do algoritmo do Google. O buscador de imagens da plataforma parece interpretar os termos “corte de cabelo não profissional para o trabalho” e “corte de cabelo profissional para o trabalho” com um inesperado preconceito étnico.

Os resultados para o primeiro termo mostram, em sua maioria, mulheres negras com cabelo naturalmente crespo. Já a pesquisa por cortes “profissionais” mostra muito mais mulheres caucasianas de cabelo liso. A descoberta alimentou o debate sobre o quanto do sistema de buscas do Google é abastecido por algoritmos independentes e o quanto há de preconceito no código da plataforma.

O Google já informou que seu sistema de busca de imagens mistura uma tecnologia rudimentar de reconhecimento de formas – suficiente para diferenciar um rosto humano de uma rocha, por exemplo – com algoritmos que levam em conta diversas outras informações contextuais, como pesquisas anteriores, resultados mais clicados e, é claro, a página de onde cada imagem está sendo retirada.

Leigh Alexander, colunista do jornal britânico The Guardian, notou que muitos dos resultados mostrados na pesquisa por “corte de cabelo não profissional para o trabalho”, exibindo mulheres negras de cabelo crespo, pareciam sair diretamente de sites que questionavam esses padrões estéticos. Um dos resultados, por exemplo, vinha de um post que celebra o cabelo natural em detrimento da “ridícula pressão” do ambiente de trabalho por alisamentos artificiais.

Outros resultados seguiam a mesma receita, mostrando que o algoritmo do Google também tende a relacionar os termos da pesquisa com a fonte original das imagens mais populares. Desse modo, o sistema também acaba por reforçar alguns estereótipos, mesmo que sem essa intenção, dependendo das palavras utilizadas para a busca.

“O algoritmo não tem o objetivo de ser imperialista, é claro”, diz Leigh. “Ele faz o que foi desenvolvido para fazer: refletir o conteúdo que tem à disposição. Mas o sonho de uma web ‘igualitária’ permanece somente isso, e a fantasia de um servo digital verdadeiramente sem preconceitos que nos mostra o verdadeiro tamanho e escopo do mundo ainda não foi realizado.”