Os contínuos avanços na inteligência artificial (IA) e no aprendizado de máquina (ML) levaram a ganhos tecnológicos inestimáveis, mas os malfeitores também estão aprendendo a tirar proveito destas tecnologias de maneiras cada vez mais sinistras. Esta é a conclusão da McAfee em um relatório detalhando o que a empresa acredita que serão as principais ameaças em 2020. E os deepfakes estão no topo da lista.

Segundo a empresa, recentes avanços na IA deram mesmo aos criminosos menos sofisticados a capacidade de produzir convincentes deepfakes, vídeos em que a imagem de uma pessoa é manipulada para que ela diga ou faça algo que nunca fez. A capacidade de criar conteúdo manipulado não é nova: o que mudou é que agora é possível criar um deepfake muito convincente sem ser um especialista em tecnologia.

Um exemplo citado são sites nos quais um usuário pode enviar um vídeo de amostra e receber em troca um deepfake, e ferramentas audiovisuais sob domínio público que podem oferecer a centenas de milhares de possíveis malfeitores a capacidade de criar conteúdo falso bastante convincente.

Deepfakes podem, e são, usados na guerra de informações, afirma a empresa. Vídeos com comentários públicos feitos por uma personalidade podem ser usados para treinar um modelo de aprendizado de máquina que irá resultar em um deepfake que coloca as palavras de outra pessoa em sua boca.

Agora, os criminosos podem criar conteúdo automatizado e direcionado para aumentar a probabilidade de um indivíduo ou grupos caírem em uma campanha. Dessa maneira, a IA e o aprendizado de máquina podem ser combinados para criar um caos maciço.

Segundo o relatório, “se pensarmos em grupos políticos tentando manipular uma eleição, usar um vídeo deepfake para influenciar a opinião pública faz muito sentido. Eles usarão todas as ferramentas possíveis para criar um racha na sociedade e tirar proveito disso”.

Da mesma forma, um cibercriminoso pode manipular a imagem de um CEO, gerando uma declaração convincente de que uma empresa teve prejuízo ou que existe uma falha fatal em um produto que exigirá um recall maciço. Esse vídeo pode ser distribuído para manipular o preço das ações ou permitir outros crimes financeiros.

A empresa aleta que o reconhecimento facial, outra tecnologia na qual confiamos cada vez mais, também pode ser uma vítima do avanço dos deepfakes. Computadores modernos processam rapidamente inúmeras características de uma face e geram um “modelo matemático” que é usado para estabelecer uma identidade.

Mas falhas inerentes a estes modelos abrem a porta para a criação de deepfakes capazes de enganar os sistemas de reconhecimento facial. “Será fundamental que as empresas compreendam os riscos de segurança apresentados pelo reconhecimento facial e outros sistemas biométricos e invistam na educação sobre estes riscos, bem como no fortalecimento dos sistemas críticos”, afirma a McAfee.

Segundo Raj Samani, cientista chefe da equipe de pesquisa de ameaças avançadas da McAfee, “o panorama de ameaças para 2020 e além promete ser interessante para a comunidade de cibersegurança”.

Fonte: McAfee