O Instagram compartilhou novos detalhes sobre o uso de inteligência artificial para exibir conteúdo aos usuários. A divulgação enfatiza que, ao fazer recomendações, a plataforma se concentra em procurar contas que, em teoria, se encaixam com o tema, e não apenas por postagens individuais.
A publicação do blog tem natureza técnica e oferece uma perspectiva sobre os bastidores, em um momento em que os sistemas de algoritmos levam os usuários para conteúdos perigosos e extremistas.
Embora o Instagram não tenha sofrido criticas com a mesma ferocidade do YouTube, também possui alguns problemas. A desinformação possui grande espaço na plataforma, assim como em qualquer outra rede social, e certos mecanismos no aplicativo levaram os usuários a tópicos extremistas, como antivacinação.
Os engenheiros da plataforma explicaram o funcionamento da guia Explorar. “É a primeira vez que detalhamos os elementos fundamentais que nos ajudam a fornecer conteúdo personalizado em grande escala”, disse Ivan Medvedev, engenheiro de software da rede social. A nota enfatiza que o Instagram possui um conteúdo extremamente variado, o que representa um desafio para recomendar conteúdo.
A IA identifica contas que são semelhantes entre si, adaptando um método comum de aprendizado de máquinas conhecido como “incorporação de palavras”. O sistema estuda a ordem em que as palavras aparecem no texto para medir a relação entre elas. Dessa forma, percebe que a palavra “fogo” geralmente aparecem ao lado de palavras como “alarme” e “caminhão”, e com menos frequência ao lado de “pelicano” ou “sanduíche”, por exemplo.
Para fazer as recomendações, o Explorar analisa “conta iniciais”, que são contas com as quais os usuários já interagiram, curtindo ou salvando conteúdo. Depois, identificas contas semelhantes a essas e, a partir delas, seleciona 500 conteúdos. Esses candidatos são filtrados para remover spam, informações erradas e “provável conteúdo que viola a política de postagens”. As publicações restantes são classificadas com base na probabilidade de um usuário interagir com cada um. Por fim, os 25 principais posts são enviadas para a primeira página da guia Explorar do usuário.
Apesar de explicar como funciona sua inteligência artificial, o IG não é totalmente transparente. Não há detalhes de quais sinais são usados para identificar spam ou desinformação, e isso não surpreende, já que ajudaria as pessoas que desejam espalhar esse tipo de conteúdo. A empresa também não deixou claro o grau de aprendizado da máquina para filtrar informação inapropriada.
Um exemplo disso foi o movimento antivacina. A plataforma reprimiu postagens usando, principalmente, métodos manuais, bloqueando hashtags que continham informações falsamente verificáveis e contou com agências de saúde para sinalizar postagens perigosas, que foram removidas. De acordo com Medvedev, a empresa “também treina modelos de IA para detectar proativamente informações erradas sobre vacinas e tomar ações automáticas”.
A postagem também dá uma dica para os usuários moldarem o conteúdo desejado na guia Explorar. Para isso, é necessário interagir com as coisas que gosta e, para não ver certos tipos de postagens, usar a ferramenta “veja menos postagens como esta”.

Via: The Verge