A polícia da cidade de Durham, na Inglaterra, começará a trabalhar com um sistema de inteligência artificial que ajudará os oficiais a decidirem se um suspeito deve ou não ser mantido sob custódia.

O sistema, que se chama Hart (Ferramenta de Avaliação de Risco e Danos, em inglês) foi projetado para classificar os riscos de uma pessoa cometer um crime no futuro com base em um risco baixo, médio ou alto. A avaliação da AI ainda pode ser utilizada para várias determinações diferentes, como se um suspeito deve ser mantido por um período mais longo e se a fiança deve ser definida antes ou após a acusação.

O sistema foi alimentado com dados coletados entre 2008 e 2012 e nos testes iniciais em 2013, as previsões de baixo risco foram precisas 98% do tempo, enquanto as previsões de alto risco foram precisas 88% do tempo.

A polícia planeja começar a usar a tecnologia nos próximos meses para testar sua eficácia. Durante essa experiência, os policiais acessarão o sistema em uma seleção aleatória de casos para comparar a decisão da tecnologia com a decisão que foi tomada na vida real.

O Hart é apenas uma das muitas ferramentas que estão sendo usadas por agentes da lei e sistemas judiciais e prisionais em todo o mundo. Embora eles possam melhorar a eficiência nos departamentos de polícia, também podem prever situações erradas.

Em uma avaliação da ProPublica, publicada no ano passado, um algoritmo usado pelas autoridades para prever a probabilidade de um preso cometer um crime futuro amplificou preconceitos raciais, inclusive fazendo previsões excessivamente negativas sobre suspeitos negros versus brancos.

A polícia de Durham, no entanto, diz que as decisões do Hart serão apenas “consultivas” durante o seu uso preliminar e experimental. Como o sistema levará em consideração fatores como gênero e código postal, policiais e consultores acadêmicos dizem que ele está incompleto e não deve ser o único fator para a tomada decisão.

[BBC]