Criado para funcionar como um ambiente seguro para as crianças, o YouTube Kids tem despertado a insatisfação de alguns pais e responsáveis porque parte do conteúdo postado na plataforma não é apropriado para consumo infantil.

O New York Times publicou uma reportagem nesta semana trazendo vários exemplos de vídeos que não deveriam estar disponíveis no site, como um em que personagens de um programa da Nickelodeon são retratados fingindo suicídio por influência de uma boneca possuída.

Também há um vídeo em que o Homem-Aranha aparece urinando na Elza, de “Frozen”, outro com personagens da Nick em um clube de strip, um em que Mickey Mouse morre atropelado na frente da Minnie… em um deles, uma garota é mostrada com a testa sangrando durante uma “brincadeira” de família em que sua testa é raspada com barbeador.

Parte desse material é postado com títulos que induzem ao erro, coisas como “Vídeo criado com o propósito de aprendizado e desenvolvimento de crianças”. E vários são animações que usam personagens de programas infantis famosos. Essas coisas ajudam a enganar os algoritmos do YouTube e rendem dinheiro aos publicadores por meio de publicidade.

Em entrevista ao NYT, Malik Ducard, que chefia a área responsável pelo conteúdo que vai para o YouTube Kids, disse que menos de 0,005% dos milhões de vídeos vistos na plataforma nos últimos 30 dias foram removidos por serem inapropriados, e que a intenção é baixar ainda mais esse percentual.

Mas a questão traz à tona os problemas sobre confiar em algoritmos para cuidar da seleção de conteúdo. No YouTube Kids, funcionários humanos só são acionados quando ocorre alguma denúncia por parte dos usuários; no restante do tempo, são as máquinas trabalhando.

Ducard ressaltou que os adultos devem controlar a experiência de suas crianças, mas pais ouvidos pelo jornal lembraram que o próprio YouTube Kids dá a entender que só exibirá conteúdo adequado para cada pessoa, já que até pergunta em que faixa etária está a audiência no momento da configuração da conta.