O aplicativo FaceApp tem se destacado pelas suas capacidades. Usando inteligência artificial, o app, disponível para iOS e recém-lançado para Android, é capaz de colocar um sorriso no rosto de uma pessoa emburrada, deixar o usuário com cara de idoso e até mesmo permite que ele veja como seria se fosse mulher em vez de homem ou vice-versa.

No entanto, um dos recursos do aplicativo chamou a atenção do público. O FaceApp também oferecia uma opção de “embelezamento” que causou um problema para a empresa. O modo, que deveria remover imperfeições, também acabava embranquecendo a pele de seus usuários, o que não pegou bem com públicos de etnias não brancas.

Yaroslav Goncharov, CEO da FaceApp, manifestou-se sobre a questão quando contatado pelo site Mashable. Ele assumiu a falha em seu aplicativo e afirmou que os desenvolvedores já estão trabalhando em uma solução.

“Lamentamos por esse problema inquestionavelmente sério. É um efeito colateral infeliz da nossa rede neural causado por um conjunto de dados de treinamento enviesado, e não é um comportamento planejado. Para amenizar o problema, renomeamos o efeito para excluir a conotação positiva associada a ele”, afirmou. A solução temporária foi mudar o nome do efeito de “Hot” (“bonito”) para “Spark” (“brilho”).

A explicação de Goncharov faz sentido. Redes neurais como a usada pelo app são alimentadas com inúmeras fotos para que possam reconhecer padrões e aplicá-los no tratamento de outras fotos. O problema é que, ao que tudo indica, não foram apresentadas fotos suficientes de pessoas negras ou de outras etnias para que a máquina fosse capaz de identificar outros padrões de beleza que vão além do tom de pele branco.

O problema é similar ao que o Google Fotos apresentou em 2015, quando identificou erroneamente usuários negros como gorilas. A solução foi treinar melhor a inteligência artificial com mais fotos de pessoas negras para que o serviço fosse mais capaz de fazer a distinção entre humanos e animais. Na ocasião, o Google também afirmou que rostos de pessoas brancas eram frequentemente confundidos com cachorros ou focas.

[Mashable]