A Autoridade Italiana para Proteção de Dados (Garante per la protezione dei dati personali) abriu uma investigação sobre o uso de bots do Telegram que usam inteligência artificial para gerar fotos nuas a partir de imagens de mulheres vestidas.
De acordo com um estudo realizado pela empresa Sensity, os robôs têm a capacidade de extrair qualquer imagem comum e trocar partes vestidas do corpo feminino por partes nuas. Até o momento, foram identificadas mais de 100 mil imagens falsas compartilhadas online, mas o bot pode ter produzido até milhões que ainda não foram rastreadas. Uma preocupação é que os bots podem gerar imagens de menores de idade.
70% dos usuários dos robôs estão localizados na Rússia, onde o serviço foi anunciado em redes sociais locais como a VKontakte (VK). Há um sistema de monetização, onde os usuários podem comprar pacotes de “moedas” e usá-las para acelerar o processamento das imagens ou remover marcas d’água.
A Sensity liga o software por trás dos bots ao DeepNude, que surgiu em junho passado com recursos muito similares. Após alguns dias o serviço foi retirado do ar, mas não antes que cópias de seu código-fonte se espalhassem pela internet.
“A facilidade de uso deste programa torna qualquer pessoa com uma foto na web uma vítima em potencial dos deepfakes”, disse a agência italiana em um comunicado, afirmando que “solicitará ao Telegram informações, a fim de verificar o cumprimento das regras de proteção de dados na disponibilização do serviço aos usuários, bem como para averiguar a possível conservação das imagens manipuladas e as finalidades desse armazenamento”.
Tags: