Os algoritmos do Facebook proporcionaram uma situação no mínimo desagradável recentemente ao transformar uma imagem em que se lê “vou estuprá-la antes de matá-la, sua puta suja” em publicidade para o Instagram.

Aconteceu com uma repórter do The Guardian chamada Olivia Solon. No ano passado, ela recebeu essa mensagem por e-mail e postou uma captura de tela no Instagram para mostrar como é a vida de uma mulher na internet.

O post, segundo o jornal, recebeu apenas três curtidas, mas teve vários comentários de apoio à repórter. Provavelmente enganado pelo engajamento, o Facebook puxou essa foto e a exibiu à irmã da repórter com o texto: “Veja a foto de Olivia Solon e posts de amigos no Instagram.”

Existem sistemas capazes de analisar texto em imagem, mas a empresa não explicou como uma mensagem de teor tão tóxico acabou sendo usada como publicidade. Em nota, um porta-voz do Instagram se desculpou pela situação e disse que essa não é a experiência desejada aos seus usuários.