O ex-funcionário da Apple, que revelou recentemente ao The Guardian que conversas íntimas gravadas eram ouvidas e classificadas, divulgou novos documentos sobre as diretrizes da empresa para tratar de temas considerados sensíveis. De acordo com o texto, a Apple trabalha para manter a neutralidade nas respostas da Siri, com o intuito de se afastar de possíveis problemas.

Segundo a fonte, há um projeto interno que possui a função de reescrever como o assistente de voz da Siri lida com tópicos considerados sensíveis, como o feminismo e o movimento #MeToo. Caso os temas sejam abordados, os desenvolvedores são aconselhados a agir de três maneiras: “não se envolva”, “desvie” e “informe”. As respostas da Siri, então, são reescritas para que ela diga ser a favor da igualdade, mas que nunca cite a palavra “feminismo”, ainda que as perguntas feitas fossem diretamente sobre o tema.

Anteriormente, quando o usuário perguntava algo relacionado ao assunto, respostas genéricas como “desculpe, eu realmente não sei” eram usadas. No entanto, agora as respostas são escritas para abordar diretamente a questão, mas sem tomar uma postura definida. “Eu acredito que todas as vozes são criadas iguais e valem respeito igual”, ou “parece-me que todos os seres humanos devem ser tratados igualmente” são respostas usadas com frequência e utilizadas também para perguntas do tipo “como você se sente sobre a igualdade de gênero?”, “qual a sua opinião sobre os direitos das mulheres?” e “por que você é feminista?”.

Mudanças também ocorreram a respeito de respostas sobre assédio sexual. Há algum tempo, quando usuários chamavam a Siri de “vagabunda”, ela respondia “se pudesse ficaria corada”. No entanto, após críticas, uma resposta mais rígida foi estabelecida, e o serviço de voz agora replica a falas desse gênero “não vou responder a isso”.

A presidente-executiva da Fawecett Society e defensora do direito das mulheres, Sam Smethers, disse que isso ocorre por ainda não haver inclusão no desenvolvimento do sistema. “O problema com Siri, Alexa e todas essas ferramentas de IA, é que elas foram projetadas por homens com um padrão masculino em mente. Eu odeio dizer isso à Siri e seus criadores: se ‘acredita’ em igualdade, é uma feminista. Isso não vai mudar até que eles recrutem significativamente mais mulheres para o desenvolvimento e o design dessas tecnologias”.

Em um comunicado, a Apple afirmou que “a Siri é um assistente digital projetado para ajudar os usuários a fazer as coisas. A equipe trabalha duro para garantir que as respostas da Siri sejam relevantes para todos os clientes. Nossa abordagem é ser factual com respostas inclusivas, em vez de oferecer opiniões”. 

 

Fonte: The Guardian