Pela primeira vez, um algoritmo de inteligência artificial de reconhecimento facial usado por polícias levou a uma detenção indevida depois de identificar um homem inocente como criminoso.
De acordo com o jornal norte-americano The New York Times, Robert Julian-Borchak Williams, um homem negro de 42 anos, foi preso em janeiro, depois de a polícia de Detroit lhe ter dito para se entregar. Quando Williams chegou à esquadra, foi preso porque a inteligência artificial de reconhecimento facial determinou que era a pessoa vista nas imagens de vigilância de um furto em 2018.
Embora Williams tenha sido libertado 30 horas depois após pagar a fiança e o caso tenha sido julgado improcedente, a sua prisão aponta para um problema muito maior de a polícia usar algoritmos não confiáveis.
Segundo o NPR, especialistas em direitos civis dizem que Williams é o primeiro exemplo documentado nos Estados Unidos de alguém preso indevidamente com base numa pista falsa produzido pela tecnologia de reconhecimento facial.
“Eu suspeito fortemente que este não é o primeiro caso a identificar mal alguém para prendê-lo por um crime que não cometeu”, disse Clare Garvie, advogada da Universidade de Georgetown. “Esta é apenas a primeira vez que sabemos sobre isso.”
Há muito tempo que críticos do reconhecimento facial argumentam que a tecnologia não é suficientemente sofisticada para identificar suspeitos de forma confiável – especialmente de fotografias de vigilância desfocadas.
Além disso, estudos académicos e governamentais demonstraram que os sistemas de reconhecimento facial identificam pessoas de cor com mais frequência do que as brancas.
Os programadores de reconhecimento facial alertaram repetidamente contra o uso da sua tecnologia como única base para uma detenção.
Aliás, o software que a polícia de Detroit usou para identificar incorretamente Williams exibe resultados ao lado do seguinte aviso: “Este documento não é uma identificação positiva. É apenas uma pista de investigação e não é provável causa de prisão”.
