O Google – assim como a Amazon – já admitiu que tem trabalhadores humanos escutando conversas de voz entre o usuário e o Google Assistente. A gigante das buscas defendeu essa prática e falou que toma cuidado para proteger a identidade e privacidade dos clientes.

A resposta surgiu depois de um jornal belga revelar que um funcionário teve acesso a cerca de 150 gravações do Google Assistente divididas em 1.000 trechos, sem nem ter pedido por elas. Segundo ele, os dados foram conseguidos acidentalmente e ele então percebeu que os sistemas de segurança do Google poderiam não funcionar tão bem quanto a empresa alega.

“Acabamos de saber que um de nossos revisores de linguagem violou políticas de segurança de dados vazando dados de áudio confidenciais de alguns usuários holandeses”, escreve David Monsees, gerente de produto da equipe de Pesquisa do Google em postagem no blog, referenciando trechos de áudio fornecidos pelo funcionário terceirizado belga compartilhados com o VRT NWS . “Nossas equipes de resposta de segurança e privacidade foram ativadas nesta questão, estão investigando e tomaremos providências. Estamos realizando uma revisão completa de nossas salvaguardas neste espaço para evitar que erros de conduta como esse aconteçam novamente”.

O Google disse que operações com humanos são importantes para melhorar o funcionamento da IA, principalmente sua operação em vários idiomas. “Esta é uma parte crítica do processo de criação da tecnologia de fala e é necessária para criar produtos como o Assistente do Google”, disse Monsees.

A empresa diz que fornece aos usuários uma ampla variedade de ferramentas para analisar o áudio armazenado pelos dispositivos do Google Assistente, incluindo a capacidade de excluir esses arquivos manualmente e configurar cronômetros de exclusão automática. “Estamos sempre trabalhando para melhorar a forma como explicamos nossas configurações e práticas de privacidade para as pessoas e estaremos revisando as oportunidades para esclarecer melhor como os dados são usados para melhorar a tecnologia de fala”, conclui Monsees.

É de conhecimento público que empresas de tecnologia utilizam trabalhadores humanos para aprimorar o funcionamento de assistentes de inteligência artificial. Esses funcionários escutam trechos de conversas, analisam erros de transcrição e interpretação e anotam possíveis melhorias. Por fim, as correções são adicionadas ao software, que, provavelmente, não voltará a cometer esse mesmo erro. 

Porém, tanto o Google quanto a Amazon não são inteiramente transparentes sobre como funciona o processo. No caso da Alexa, alguns desses dados são armazenados indefinidamente, mesmo depois que um usuário decide excluir o áudio. E, embora os controles de privacidade do Google pareçam ser mais robustos do que os da Amazon, já que permitem que você desative completamente o armazenamento de dados, ainda existem incertezas

Essas descobertas contradizem alegações do Google sobre proteção de dados e privacidade. Claramente, alguém está de fato escutando, em algum outro lugar do mundo. E às vezes eles não deveriam estar.

Via: The Verge