A pornografia de vingança é um problema sério, e não são poucos os casos de pessoas que têm a vida abalada por ter sua intimidade exposta online sem autorização. Diante dessa situação, o Facebook criou um plano que pode causar alguma polêmica, mas com o intuito de proteger possíveis vítimas: pedir que elas compartilhem suas fotos íntimas antes que elas caiam na rede.

A ideia é simples e gira em torno da prevenção e contenção de danos. Se alguém tiver o temor de que suas imagens podem ser publicadas sem sua autorização, as fotos podem ser enviadas para o Facebook, que usará seus algoritmos para identificar quando as imagens forem compartilhadas, de modo a barrar que o conteúdo se espalhe no Facebook, no Messenger e no Instagram.

Veja como o Facebook descreve o processo:

  • Qualquer um que tema que uma imagem íntima sua possa ser compartilhada online pode contatar um de nossos parceiros para que eles enviem um formulário;
  • Após preencher o formulário, a vítima recebe um email com um link seguro e temporário, que só pode ser usado uma vez;
  • A vítima pode usar o link para enviar as imagens que ela teme que serão compartilhadas;
  • Um ou mais membros com treinamento específico da nossa Equipe de Operações de Segurança da Comunidade irá analisar o relatório e criar uma “impressão digital”, ou hash, que permite identificar futuros uploads das imagens sem precisar armazenar cópias nos nossos servidores;
  • Assim que criarmos essas hashes, notificaremos a vítima e deletaremos a imagem dos nossos servidores, em no máximo uma semana;
  • Armazenamos as hashes, então sempre que alguém tentar fazer o upload de uma imagem com aquela “impressão digital”, nós podemos evitar que elas apareçam no Facebook, Instagram ou Messenger.

Uma hash, caso não tenha ficado claro, é um código, formato por letras, números e símbolos. A imagem será transformada nesse código, de modo que é difícil para um humano decifrar seu conteúdo, o que impediria que, por exemplo, um possível funcionário desrespeitoso pudesse acessar a imagem nos bancos de dados do Facebook. Quando alguém tentar fazer o upload de uma dessas imagens, a empresa fará a checagem com as hashes armazenadas, identificando se o conteúdo é proibido ou não. O processo é similar a senhas: qualquer sistema minimamente seguro converte sua senha em hashes para armazená-las em bancos de dados. Quando você digita sua senha num site, ela é comparada a esse código armazenado para garantir que você é realmente você.

Um dos problemas desse projeto do Facebook, no entanto, é que ele não é capaz de abranger o WhatsApp, que é um dos canais onde esse tipo de conteúdo mais se prolifera. O motivo para isso é que, como o aplicativo usa criptografia de ponta-a-ponta, não é possível analisar o conteúdo das mensagens, de modo que não é possível monitorar as imagens que são compartilhadas pelo app.

O programa ainda está em fase de testes e está disponível, por enquanto, apenas na Austrália, Canadá, Reino Unido e Estados Unidos.