A Yahoo desenvolveu uma inteligência artificial para detectar comentários odiosos ou abusivos em suas seções de notícias. De acordo com a empresa, o sistema é capaz de detectar até 90% dos comentários insultosos, o que o torna superior aos melhores algoritmos do tipo, segundo seus criadores. 

De acordo com a empresa, o sistema utiliza tanto tecnologias de aprendizagem de máquina quanto a interação de usuários para escanear os comentários do Yahoo News e do Yahoo Finance. Humanos ajudam o computador a detectar abusos que poderiam passar despercebidos pelas máquinas, como comentários irônicos ou sarcásticos. 

Sinais de abuso

Muitos sistemas semelhantes realizam esse tipo de serviço filtrando comentários que utilizam palavras de uma “lista negra” de expressões odiosas e claramente racistas, homofóbicas, xenofóbicas ou machistas. O sistema da Yahoo, no entanto, avalia também outros fatores, como o tamanho dos comentários, o uso de caps lock e o número de marcas de pontuação.

Outros fatores avaliados pelo sistema são “palavras e expressões educadas”, segundo o Mashable. Esses termos incluem verbos como “poderia” e “deveria”. Graças a esses fatores, a empresa declarou que ele consegue ter um desempenho até 10% melhor que o dos algoritmos anteriores usados para esse fim.

Pagos para ler comentários

Para complementar a atuação do algoritmo, a Yahoo também utilizou funcionários especialmente treinados para classifdicar alguns comentários entre “abusivos” ou “não abusivos”. Como os sistemas de redes neurais precisam ser treinados antes de que possam funcionar de maneira autônoma, essa etapa foi importante para o desenvolvimento do algoritmo.

Além disso, a Yahoo também usou uma ferramenta da Amazon, chamada de Mechanical Turk, para envolver humanos no processo. Esse recurso permite que qualquer pessoa se cadastre para realizar essa mesma avaliação, e os participantes recebiam US$ 0,02 por cada comentário avaliado.