Diante da repetição dos erros, empresas como Microsoft, IBM e Amazon estão deixando de fornecer esse tipo de sistema às polícias
Vivaldo José Breternitz (*)
Um homem, que foi falsamente acusado de furto em uma loja, está processando a Polícia de Detroit por prendê-lo com base em um software de reconhecimento facial que não funcionou corretamente. A American Civil Liberties Union (ACLU) abriu um processo em nome de Robert Williams, que seria a primeira pessoa a ser presa injustamente com base em reconhecimento facial.
A Polícia de Detroit prendeu Williams em 2019 após examinar imagens de câmeras de segurança de uma loja em que houve um furto. Uma ferramenta de reconhecimento facial analisou as imagens e apontou o ladrão como sendo Williams, com base na comparação das imagens com a foto de sua carteira de motorista, que constava da base de dados da Polícia.
Ciente da não confiabilidade do sistema, a Polícia juntou algumas fotos à de Williams e mostrou-as a um guarda de segurança da loja, que não havia testemunhado o furto; o guarda o “reconheceu” e Williams foi preso.
Williams, que dirigia do trabalho para casa no horário dos fatos, passou 30 horas em um centro de detenção até que os fatos fossem esclarecidos. Libertado, recebeu um pedido de desculpas, com a Polícia informando que a prisão foi baseada em um “trabalho investigativo desleixado”.
Williams é negro e outros casos de identificação incorreta, especialmente de negros, estão levando vários estados e cidades a proibirem o uso desse tipo de software. Empresas, como Microsoft, IBM e Amazon estão deixando de fornecer esse tipo de sistema às polícias.
O que se espera é que ferramentas como essas continuem a ser aperfeiçoadas e usadas apenas quando houver certeza de que não causarão problemas.
(*) Doutor em Ciências pela Universidade de São Paulo, é professor da Faculdade de Computação e Informática da Universidade Presbiteriana Mackenzie.