Na última semana, a boneco Momo ressurgiu no centro de uma polêmica, quando vídeos infantis passaram a ser interrompidos pela personagem com orientações para que as crianças se suicidassem. O assunto tomou proporções tão grandes que o MP-BA (Ministério Público da Bahia) notificou tanto o Google quanto o WhatsApp para que impeçam a difusão da imagem da boneca.

A notificação partiu do Nucciber (Núcleo de Combate a Crimes Cibernéticos) do MP-BA, que decidiu agir diante da repercussão que o caso tomou nos últimos dias. Em contato com o site G1, o promotor Moacir Nascimento, admitiu que, no entanto, não há casos registrados de jovens que tenham se ferido por seguirem as orientações apresentadas nos vídeos.

O Google já estava tomando algumas providências para limitar a difusão deste conteúdo. A empresa afirma que em nenhum momento a personagem Momo passou pelo filtro para exibição no YouTube Kids, alegando que pais talvez tenham se confundido com o YouTube convencional. Além disso, vídeos que utilizem a personagem Momo passaram a ser desmonetizados, reduzindo o incentivo de publicação de tal material. Agora, o YouTube também pode ter que remover esses vídeos de forma definitiva.

O caso do WhatsApp tende a ser mais complicado. O Facebook, empresa que controla o WhatsApp, já teve inúmeros problemas com a justiça por ter pouquíssimo controle sobre o que circula pelo aplicativo, já que o material é protegido por criptografia de ponta a ponta.

Não é a primeira vez que usuários relatam que o YouTube Kids exibiu conteúdo inadequado para crianças e é mais um lembrete de que sistemas de recomendação na internet são bastante problemáticos e podem ser usados para espalhar teorias conspiratórias e desinformação em geral. Por isso, é fundamental que os pais acompanhem de perto o conteúdo consumido pelos filhos para garantir que eles vejam coisas adequadas às suas idades.