Sistemas de reconhecimento facial são precisos? Isso pode depender da cor da sua pele. Segundo diversos pesquisadores entrevistados pelo MIT Technology Review, a precisão de sistemas de reconhecimento facial usado pelo FBI e por delegacias policiais pode variar bastante de acordo com a etnia dos rostos avaliados.

De acordo com o professor Anil Jain da Michigan State University, essa diferença depende da maneira como os algoritmos de reconhecimento facial são treinados. Para funcionar, eles precisam de um conjunto de imagens de “treinamento” que ensinam a eles como os rostos variam. Caso um determinado grupo étnico, etário ou de gênero seja menos representado nesse conjunto, o algoritmo será muito pior em reconhecer os rostos de pessoas desse grupo.

Uma pesquisa realizada por Jain em 2012 revelou que diversos sistemas de reconhecimento facial usados por agências da lei nos Estados Unidos tinham problemas desse tipo. Esses algoritmos tiveram desempenho muito pior em identificar mulheres, afrodescendentes e pessoas jovens. Segundo o pesquisador, esse problema seria reflexo de uma representação insuficiente desses grupos nas imagens de “treinamento” do algoritmo.

Viés mensurável

A pesquisadora Alice O’Toole, da University of Texas, também conduziu um estudo semelhante. Em 2011, uma pesquisa sua revelou que algoritmos de reconhecimento facial desenvolvidos em países ocidentais tinham grande dificuldade para reconhecer rostos do leste asiático. De maneira semelhante, algoritmos desenvolvidos no leste asiático reconheciam rostos daquela região com precisão muito maior do que rostos caucasianos ocidentais. 

Embora desde então as técnicas de aprendizagem de máquina tenham evoluído consideravelmente, os dois pesquisadores acreditam que os algoritmos estão vulneráveis a esse mesmo problema. Além disso, há pouca informação disponível sobre os sistemas de reconhecimento facial utilizados atualmente, o que dificulta seu estudo.

De acordo com o engenheiro elétrico Johnathon Philips, do National Institute of Standards and Technology, o viés racial dos algoritmos de reconhecimento de rostos pode ser medido por meio de testes. Segundo o Atlantic, já existe uma movimentação de especialistas da área que exigem que testes desse tipo sejam exigidos de todos os sistemas de reconhecimento facial comercialmente disponíveis.