Uma equipe de pesquisadores da Universidade Ben Gurion (BGU), em Israel, demonstrou que um simples drone equipado com um projetor pode ser usado para enganar a inteligência artificial de um carro. E o pior, pode fazer isso de forma que seja imperceptível para os humanos dentro do veículo.
A descoberta foi feita por membros da Cyber@BGU, uma equipe dedicada à pesquisas nas áreas de segurança digital, análise de Big Data e inteligência artificial aplicada. Em um experimento a equipe usou um Renault Captur equipado com o Mobileye 630, um Advanced Driver Assist System (ADAS – Sistema Avançado de Auxílio ao Motorista). Tal sistema não é completamente autônomo: ele é considerado “Nível 0”, ou seja, auxilia o motorista com informações sobre a via (como limites de velocidade), mas não tem controle sobre o carro.
O “agressor” foi um drone equipado com um pequeno projetor. A equipe descobriu que sinais de trânsito projetados pelo Drone eram interpretados pelo carro como se fossem reais, mesmo que o tamanho ou cores estivessem errados. Em um exemplo, o drone projeta um sinal informando que o limite de velocidade é de 90 Km/h em uma via de 30 Km/h, e o ADAS aceita e passa a informação falsa ao motorista.
A pior parte é que o sinal não precisa ser projetado por muito tempo para ser detectado. Segundo Ben Nassi, pesquisador do Cyber@BGU, bastaram 100 milissegundos para que ele fosse reconhecido pelo ADAS. Um intervalo de tempo praticamente imperceptível para o motorista humano.
Em declaração ao site “Ars Technica”, representantes da MobilEye negam que o experimento seja uma forma de “ataque”, e alegam que seu sistema agiu exatamente como previsto: leu um sinal de trânsito e o respeitou. O problema é que o “sinal” seria incapaz de enganar um motorista humano.
Embora o potencial para dano com um ADAS Nível 0 seja mínimo, afinal de contas, ele não tem controle sobre o carro, especula-se que o mesmo ataque também poderia funcionar contra sistemas mais avançados (como um Tesla AutoPilot), capazes de controlar aceleração, frenagem e direção, resultando em um potencial para dano muito maior.
Fonte: Ars Technica
Tags: