Deepfakes usam inteligência artificial combinando imagens ou sons humanos para alterar personagens ou falas em vídeos. O principal uso dessa tecnologia atualmente é para criação de vídeos de humor, mas ela já foi usada para fraudes e fake news. No início do ano, estudantes da University College London (UCL) realizaram um estudo sobre as implicações de deepfakes na segurança online. Os resultados causaram preocupações.
Atualmente, existem softwares para a criação de deepfakes open source e gratuitos, cada vez mais acessíveis. Sites como Reddit e Twitter tem banido conteúdo deepfake por medidas de proteção à informação.
O principal uso das deepfakes atualmente é para o humor, mas é uma ferramenta poderosa para espalhar notícias falsas. Créditos: Wikimedia Commons/Reprodução.
Conclusão preocupante
O objetivo dos estudantes da UCL ao longo da pesquisa, era explorar estruturas de vídeos deepfakes e avaliar a acessibilidade de criação. A conclusão preocupou os pesquisadores, mesmo quando a imagem e som de origem não possuiam os mesmos formatos de som e movimentos que seriam modificados, os resultados foram aceitáveis.
Softwares para criação de deepfakes são gratuitos e fáceis de usar, e essa é uma preocupação constante, embora existam obstáculos de estrutura computacional para a criação de resultados aceitáveis (é necessário no mínimo uma placa de vídeo como uma GTX 1060).
Segundo os estudantes, ainda são necessárias mais pesquisas, com mais opções de tecnologia. O grupo disse que uma regulamentação para evitar os perigos no uso de deep fakes será necessária no futuro para evitar ‘grandes estragos’.
Fonte: Dark Reading
Tags: