A DeepMind, empresa do Google especializada em inteligência artificial, parece estar preocupada que as suas experiências com inteligência artificial acabem gerando um apocalipse robótico. De acordo com o Business Insider, a empresa contratou recentemente três especialistas para trabalhar em um grupo de “segurança de inteligência artificial”.
Os especialistas em questão são Viktoriya Krakovna, Jan Leike e Pedro Ortega. Krakovna, que tem título de Ph.D. em estatística pela Harvard, é uma das fundadoras do Future of Life Institute. Esse instituto, que tem Stephen Hawking e Elon Musk entre seus membros, se dedica a mitigar os riscos existenciais que a humanidade enfrenta, em particular a ameaça por sistemas avançados de inteligência artificial.
Em sua conta do Twitter, Krakovna confirmou que havia sido contratada pela DeepMind justamente para trabalhar com essa finalidade. O tweet da pesquisadora pode ser visto abaixo:
Just joined DeepMind’s AI safety group together with @janleike and @AdaptiveAgents – excited to be part of this amazing team!
— Victoria Krakovna (@vkrakovna) 22 de novembro de 2016
Leike, por sua vez, confirmou a contratação por meio de seu site profissional: no canto superior esquerdo, é possível ver que seu cargo é “Research Cientist” na Google DeepMind. Em seu site, ele diz que seu trabalho envolve compreender “como podemos desenhar agentes para que eles sejam incentivados a agir no nosso melhor interesse?”. Além de trabalhar lá, Leike também é pesquisador do Future of Humanity Institute da Universidade de Oxford
Finalmente, Ortega tem Ph.D. em aprendizagem de máquina pela Universidade de Cambridge e já trabalhou na Yahoo antes de ir para a DeepMind. De acordo com um resumo em seu site profissional, “seu trabalho inclui a aplicação de ideias informação-teóricas e mecânico-estatísticas em processos racionais de tomada de decisão”.
As ameaças
Se há no mundo uma empresa que tem motivos para temer o surgimento de uma rede de inteligências artificiais malignas como a Skynet, essa empresa é a DeepMind. Os sistemas desenvolvidos pela DeepMind já foram capazes até mesmo de vencer o campeão mundial de Go e de caçar e matar humanos… no jogo Doom. Recentemente, a empresa desenvolveu um método para que suas inteligências artificiais “sonhem” para aprender mais rapidamente.
De fato, essa não é a primeira vez que a DeepMind toma alguma medida para se precaver contra essa possibilidade. O Google já realizou pesquisas sobre métodos de evitar (ou suspender) um eventual ataque robótico, e Mustafa Suleyman, um dos cofundadores da DeepMind, chegou a prometer que “Robôs não destruirão a humanidade”.
No entanto, deve-se considerar que, por enquanto, as inteligências artificiais da DeepMind só têm trazido e prometido coisas boas aos humanos. Soluções da empresa já foram usadas para reduzir drasticamente a conta de luz do Google, ajudar a combater cegueira e auxiliar no tratamento cancer. Ela também é capaz de imitar vozes humanas e até mesmo alguns estilos musicais.
Tags: