A Microsoft parece ter aprendido a lição depois que o seu chatbot se tornou racista após 24 horas nas redes sociais e outras denúncias que a empresa, e outras do setor de tecnologia, já sofreu. Tanto, que a companhia atualizou a sua tecnologia de reconhecimento facial para deixar o sistema mais inclusivo.

Conforme relata o Cnet, a Microsoft melhorou o reconhecimento de tons de pele e reduziu as taxas de erro relacionados à cor do usuário em até 20 vezes. A atualização também melhorou a distinção de gênero, sendo que, no caso das mulheres, a taxa de errou caiu em nove vezes.

“Essa melhoria aborda as preocupações recentes de que as tecnologias de reconhecimento facial disponíveis comercialmente reconhecem com mais precisão o gênero de pessoas com tons de pele mais claros do que tons de pele mais escuros e que elas apresentam melhor desempenho em homens com pele mais clara e pior em mulheres com pele mais escura”, afirmou a empresa em comunicado.

A equipe responsável pelo desenvolvimento da tecnologia de reconhecimento facial da Microsoft trabalhou com especialistas em preconceito e justiça para melhorar o sistema. Eles expandiram e revisaram conjuntos de dados de treinamento e benchmark, lançaram novos esforços de coleta de dados para melhorar os dados de treinamento, e aprimoram o classificador para produzir resultados de maior precisão.