Como a grande maioria dos avanços tecnológicos, a Inteligência Artificial também tem um lado positivo e um negativo. Um programador chinês baseado na Alemanha, publicou na rede social chinesa Weibo, que criou um programa de reconhecimento facial para vincular fotografias de mulheres em redes sociais com rostos que aparecem em vídeos pornográficos de plataformas como o Pornhub. Segundo ele, foi possível “identificar mais de 100.000 mulheres jovens alemãs” na indústria de conteúdo adulto em uma “escala global”, a partir do uso da tecnologia de deepfake.

O deepfake usa um algoritmo capaz de encaixar os rostos de pessoas famosas nos corpos de atores ou atrizes pornôs. A única coisa necessária é ter material suficiente da pessoa em questão para criar o vídeo falso. A tecnologia então é responsável por captar as expressões da face da atriz pornô e procurar algo parecido com uma celebridade, por exemplo. criando assim uma farsa. O usuário que afirma ter criado o software, entretanto, disse que seu programa é feito para ajudar a remover esse conteúdo do ar.

O usuário afirma ter desenvolvido o projeto para que garotas, com ou sem um parceiro, possam verificar se aparecem em uma página com conteúdo adulto. Algumas críticas em relação ao programa surgiram e ele respondeu garantindo que sua intenção era fornecer uma ferramenta que permitisse às mulheres detectar se elas apareciam em plataformas de pornografia, para que pudessem solicitar a remoção.

Até o momento, ele não publicou nenhuma prova de que tenha conseguido fazê-lo, como por exemplo códigos, um banco de dados ou capturas. Mas, segundo o site da revista Vice, ele promete fazê-lo nas próximas semanas. Ainda assim, mesmo sem provas concretas, a história está ganhando as redes sociais.

Por ser algo simples, como pegar as fotos de uma rede social e aplicá-la nesses sites, alguns comentários alertaram e reascenderam o debate do “pornô de vingança” (revenge porn, em inglês). Plataformas como o Facebook garantem que utilizam inteligência artificial para detectar esse tipo de conteúdo. 

Fonte: Vice