A ByteDance, proprietária do TikTok, vem secretamente criando um recurso de deepfake, que permitirá que seus usuários insiram seus rostos em vídeos estrelados por outras pessoas. A empresa desenvolveu uma ferramenta inédita, usando a tecnologia deepfakes realista, à qual o código do aplicativo se refere como Face Swap.
O código no TikTok e no Douyin, aplicativos praticamente irmãos, pede aos usuários que façam uma varredura biométrica de vários ângulos de seu rosto e depois escolham uma seleção de vídeos nos quais desejam adicionar e compartilhar sua imagem.
Isso pode parecer preocupante, especialmente quando consideramos como vídeos manipulados podem ser utilizados de maneira nociva para espalhar desinformação. Além disso, o TikTok também foi objeto de muita discussão nos últimos tempos, com acusações de coletar dados de crianças, proibições militares e preocupações sobre a segurança nacional.
O código foi descoberto por uma startup israelense, chamada Watchful.ai. Suas descobertas indicam que a ByteDance está ciente que um recurso de deepfake pode não ser muito bem recebido. Por isso, a empresa aparentemente resolveu criar algumas salvaguardas.
Por exemplo, os usuários devem escanear o rosto de vários ângulos – uma medida que funciona também como verificação de idade e impede que alguém use uma única foto para criar vídeos manipulados sem consentimento. Os usuários também poderiam colocar seus rostos em apenas um número limitado de vídeos (cujos direitos a ByteDance alega possuir). Por fim, na hora de compartilhar, os vídeos gerados apresentam marcas d’água para indicar que o conteúdo não é real.
A Watchful.ai também encontrou atualizações não publicadas nos termos de serviço dos aplicativos em relação ao recurso deepfake. Eles reiteram que a “verificação de identidade” é necessária e que fotos não podem ser usadas. Outro ponto citado é que menores de idade não poderão acessar a ferramenta.
No entanto, nem o TikTok, nem o Douyin admitem a existência desse recurso. Porta-vozes de ambos os aplicativos negaram as descobertas da startup. O TikTok negou especificamente que isso seria um recurso futuro, mas também inadvertidamente reconheceu a existência do código, declarando que os “fragmentos de código inativos estão sendo removidos para eliminar qualquer confusão”.
Essa desconexão entre os dois aplicativos parece reforçar as notícias recentes de que a ByteDance faz o que pode para isolar o TikTok do restante de suas operações chinesas e, assim, evitar novas preocupações com espionagem.
É difícil dizer se o recurso deepfake será lançado nos EUA. É possível que seja uma novidade apenas para a China, ou até que a ByteDance pense que não compensa a possibilidade de uma repercussão negativa.
De qualquer forma, esse não é o único aplicativo de mídia social a se interessar pela manipulação de vídeos através de filtros ou troca de rostos. Isso é algo que o Snapchat, por exemplo, faz há anos. O problema é que, quanto mais sofisticadas essas ferramentas se tornam, maior é a possibilidade de se tornarem algo ruim, espalhando fake news e possíveis abusos. Ainda não se sabe se outros aplicativos tentarão incorporar essa ferramenta em suas plataformas.
Via: Gizmodo
Tags: