Em julho de 2015, o Google foi alvo de críticas depois que seu sistema de reconhecimento de imagens confundiu pessoas negras com gorilas. Três anos depois, a empresa revelou sua solução para o problema, que também tem sido criticada.
Tudo começou quando o programador Jacky Alciné postou no Twitter o momento em que o Google Fotos confundiu seus amigos negros com gorilas. A Wired descobriu que a solução do Google para inpedir que isso volte a acontecer foi, simplesmente, bloquear de uma vez o reconhecimento de imagens de macacos e chimpanzés.
A equipe da publicação fez o upload de centenas de fotos de espécies diferentes de primatas ao serviço do Google como experimento. O aplicativo conseguiu reconhecer imagens de babuínos, gibões e saguis, mas gorilas e chimpanzés não foram identificados.
Um porta-voz do Google confirmou à Wired que isso é de propósito. Para evitar novas confusões de teor racista, em vez de ensinar ao sistema a diferença entre humanos e primatas, o sistema de reconhecimento de imagens do Google Fotos foi proibido de identificar imagens contendo chimpanzés e gorilas.
A explicação do Google é de que essa tecnologia “ainda é recente e, infelizmente, está longe de ser perfeita”. Foi a mesma resposta que um porta-voz da empresa compartilhou três anos atrás, quando a polêmica começou, dizendo que é difícil ensinar uma máquina as diferenças que apenas olhos humanos estão acostumados a identificar.
Como explica o The Verge, ainda não está claro se essa “gambiarra” que o Google fez é uma solução temporária, ou se a empresa não conseguiu resolver o problema, não quis ou apenas está sendo exageradamente cautelosa.
Tags: