A Microsoft está testando novos filtros para impedir toxicidades no Xbox. A empresa pretende adicionar ao sistema de mensagens da plataforma um dispositivo para moderar as palavras que escritas e faladas. Inicialmente, a ideia é lançar filtros em mensagens de texto no Xbox Live, mas a Microsoft revelou também que pretende estender o sistema para gravações de áudio ao vivo com “bipes” em tempo real, como acontece na televisão. 

A empresa lida com moderação no Xbox Live há quase 20 anos, e já incluiu a capacidade de relatar mensagens, Gamertags, fotos e muito mais. A nova ferramenta vai contar com quatro níveis de filtragem por texto: amigável, médio, maduro e não filtrado. A primeira opção, amigável, é a mais adequada para as crianças que utilizam o console, pois foi feita para filtrar todas as mensagens potencialmente ofensivas. Já a opção “não filtrado” vai funcionar exatamente como o sistema de mensagens do Xbox Live opera atualmente. 

As mensagens filtradas vão aparecer com um aviso de “mensagem potencialmente ofensiva ocultada”. Caso o usuário esteja conectado em uma conta para adultos, poderá clicar e ver o conteúdo, mas contas de crianças vão ser padronizadas para o nível amigável, cabendo aos pais regular o nível como achar necessário. O filtro vai funcionar no Xbox One, Xbox Game Bar e nos aplicativos Xbox para Windows 10, iOS e Android.

 “Você vê histórias de jogadores afro-americanos sendo convocados para linchamento em sessões multiplayer, ou jogadores do sexo feminino em ambientes competitivos sendo chamados de todos os tipos de nomes e se sentindo assediados no mundo exterior, ou membros da nossa comunidade LGBTQ sentindo que não podem falar com sua voz no Xbox Live por medo de serem xingados”, afirmou Dave McCarthy, chefe de operações do Xbox, em entrevista ao The Verge.

McCarthy e sua equipe têm procurado várias maneiras de identificar o contexto das mensagens por meio de uma mistura de inteligência artificial e filtragem. “O contexto é uma coisa realmente complicada no espaço dos jogos. Uma coisa é dizer que você vai se matar quando estiver se preparando para uma missão multiplayer em Halo, e outra quando isso é dito em outro cenário. Encontrar maneiras de entender o contexto e as nuances é uma batalha sem fim”, revelou. 

A Microsoft procura ser mais transparente sobre a forma com que modera o Xbox Live. Atualmente, os usuários podem acessar o site de imposição da empresa para encontrar dicas sobre o que pode colocar sua conta em problemas. Ainda assim, isso não é o mesmo que destacar o mau comportamento em uma mensagem para a pessoa responsável pela conta. Portanto, a empresa planeja mudar as formas com que alerta seus clientes, de forma com que o número de violações diminua.

Outra preocupação da Microsoft é o desafio da toxicidade do bate-papo por voz no Xbox Live. Comportamentos como assédio podem ocorrer durante uma conversa em algum jogo da plataforma. Pensando nisso, a Microsoft Research desenvolveu recursos para traduzir áudio em tempo real, que já estão sendo usados no momento pela divisão do Xbox. 

“O que começamos a experimentar é ‘Ei, se estamos traduzindo fala em texto em tempo real e temos esses recursos de filtragem de texto, o que podemos fazer em termos de bloquear possíveis comunicações em uma configuração de voz?”‘, explicou McCarthy. “Ainda é cedo, e há uma infinidade de outras tecnologias e inteligência artificial que estamos procurando para resolver o problema da voz, coisas como detecção de emoções e detecção de contexto que podemos aplicar.  Estamos gastando nosso tempo para fazer o que é certo”. 

Rob Smith, gerente de programa da equipe de engenharia do Xbox Live, destacou como principal objetivo da empresa chegar a algo similar ao que aparece na TV. “Um objetivo final pode ser semelhante ao que você esperaria na TV aberta, onde as pessoas estão conversando e, em tempo real, somos capazes de detectar uma frase ‘ruim’ e emitir um sinal sonoro para que os usuários não a escutem”. 

No entanto, antes de refinar a tecnologia para uma filtragem automatizada de áudio, a Microsoft está analisando as falas recorrentes e o comportamento habitual dos usuários. “Enquanto isso, poderíamos fazer coisas como analisar o discurso de uma pessoa e descobrir, em geral, qual o nível de toxicidade que eles usam nesta sessão? E talvez fazer coisas como silenciá-las automaticamente ”, concluiu Smith.

A empresa pode se encontrar em um debate sobre estar passando os limites da liberdade de expressão ao utilizar os novos filtros. No entanto, a Suprema Corte dos Estados Unidos comunicou no início deste ano que os direitos da Primeira Emenda não se aplicam às plataformas privadas, como é o caso do Xbox Live. 

“O Xbox Live não é uma plataforma de liberdade de expressão. É uma comunidade com curadoria em que queremos que você tenha alguns graus de liberdade pessoal, e é por isso que estamos fazendo quatro configurações diferentes para começar aqui ”, explicou McCarthy. “Mas não queremos ser ambíguos sobre o que defendemos. Esse deve ser um lugar onde todos se divirtam, e tudo o que fizermos em termos de recursos e de práticas de moderação será vetorizado nesse conjunto de valores”, concluiu.

Via: The Verge