O governo do Reino Unido está sendo acusado de implantar um sistema de reconhecimento facial de cunho racista para verificação de fotos de passaporte. De acordo com a New Scientist, o governo britânico sabia que a inteligência artificial funcionava melhor para identificar pessoas brancas e falhava em alguns casos na identificação de pessoas de tons de pele mais escuro. Mesmo assim, eles decidiram continuar utilizando a tecnologia.
“A pesquisa do usuário foi realizada com uma grande variedade de grupos étnicos e identificou que pessoas com a pele muito clara ou muito escura achavam difícil fornecer uma fotografia aceitável para passaporte”, escreveu o departamento responsável em um documento. “Contudo, o desempenho geral foi considerado suficiente para sua implantação”.
O serviço foi implantado em junho de 2016 e, desde então, algumas pessoas tiveram problemas com o reconhecimento facial. Joshua Bada, esportista negro de 28 anos, foi alvo recentemente de uma falha no sistema ao tentar renovar seu passaporte. Joshua contou que a detecção facial disse que ele estava com a boca aberta na foto, e perguntou se ele queria enviá-la mesmo assim. “Minha boca está fechada, só tenho lábios grandes”, respondeu o esportista.
Cat Hallam, especialista em tecnologia da Keele University, descobriu que o sistema costumava indicar falhas ao sugerir que os olhos do indivíduo estavam fechados e a boca aberta. “O que é muito desanimador sobre tudo isso é que eles (governo) estavam cientes do que estava acontecendo”, afirmou Hallam.
Um software de detecção facial geralmente é treinado para identificar e armazenar milhares de imagens. Os erros na identificação de algumas pessoas podem indicar que os dados de treinamento não foram diversificados o suficiente para representar todos os tons de pele.
Autoridades governamentais disseram que, para atenuar o problema, a melhor forma seria “continuar a realizar pesquisas e testes de usabilidade com os participantes apropriados para garantir que usuários de diferentes etnias possam fornecer uma foto que passe nas verificações”.
“A raça de uma pessoa não deve ser uma barreira ao uso da tecnologia para serviços públicos essenciais”, disse um porta-voz da Comissão de Igualdade e Direitos Humanos do Reino Unido. “Estamos desapontados pelo governo implementar essa tecnologia, mesmo com evidências de que é mais difícil para algumas pessoas usá-la com base na cor de sua pele”.
Fonte: New Scientist
Tags: