Erik Navarro Wolkart, juiz federal e diretor acadêmico da New Law
Segundo especialista, construir boa base de dados é fundamental para evitar distorções
Rose Crespo
O uso de algoritmos pelo Judiciário gera discussões sobre o quanto a Inteligência Artificial (IA) pode ajudar os juízes a tomar decisões mais assertivas ou, no futuro, permitir que o juiz robô ganhe espaço nos tribunais. Independentemente de experiências já realizadas no mundo, a questão atual está na aplicação adequada da tecnologia, cujo avanço é inevitável. “O fato é que hoje os juízes perdem tempo com atividades burocráticas que podem e já devem ser executadas pela máquina”, diz Erik Navarro Wolkart, juiz federal e diretor acadêmico da New Law, edutech focada em tecnologia, mercado e inovação.
A tecnologia não substitui o juiz, por conta de sua incapacidade de fazer a fundamentação jurídica (legal reasoning, em inglês), que pauta as decisões dos magistrados. Como exemplo, ele menciona o acórdão da Suprema Corte da Califórnia (EUA) que julgou a constitucionalidade de uma lei estadual que proibia a venda de games eletrônicos para menores de 18 anos. Com o auxílio da IA, o juiz apontou a diferença que a legal reasoning fez, com a análise sofisticada dos profissionais sobre o caso. “A tecnologia não é capaz de fazer isso, apenas o ser humano consegue valorar provas que podem ser mais ou menos convincentes.”
No âmbito criminal, Wolkart menciona os benefícios que a ferramenta oferece aos magistrados. “Não significa que vamos aumentar o número de prisões. Mas, ao escolher melhor quem deve ficar preso, é possível, por exemplo, manter a taxa de prisões e reduzir a quebra de fiança.” Um exemplo bem-sucedido é Rhode Island, onde a tecnologia é utilizada há oito anos. No período, as prisões caíram 17% e os casos de reincidência, 6%.
Risk assessment
A análise de risco sobre os casos em que o preso deve ou não ser preso, a classificação do réu como de periculosidade baixa, média ou alta, as chances de reincidência e outros aspectos são exemplos de como o algoritmo pode ser aplicado. “Não podemos esquecer que o sistema pode gerar distorções e erros podem acontecer. De outro lado, o benefício agregado é grande, pois o sistema pode escolher melhor quem será preso.”
Pesquisa mostrou que os algoritmos são mais precisos do que os juízes ao ranquear a possibilidade de reincidência. Dados são da pesquisa “Hello World”, de 2017, realizada pela matemática Hannah Fry, que comparou o trabalho de juízes com o de algoritmos. Foram analisadas decisões sobre os presos de Nova York entre 2008 e 2013.
Metade dos reús considerados de alto risco pela IA foram soltos pelos juízes e, desse grupo, 56% deixaram de comparecer à corte e mais de 60% cometeram novos crimes (muitos deles graves).
O emprego dos algoritmos para a tomada de decisões traz riscos. Um dos problemas, apontados pelo diretor acadêmico da New Law, são os data sets viciados. Como os dados treinam o algoritmo, os problemas relacionados à base de dados serão incorporados em sua operação. “É fundamental trabalhar com uma boa base de dados.”
Reprodução de preconceitos
Outra questão apontada pelo especialista é a discriminação. Nessas situações, o data mining tende a reproduzir preconceitos existentes da sociedade. “Ao delegar a decisão para a ferramenta, podemos ter o efeito perverso de aprofundar a desigualdade”, alerta o juiz.
A chamada “opacidade” na sua forma de atuação – consequência das técnicas de Machine e Deep Learning – também representa risco na aplicação. Ele se refere à lacuna entre a atividade do programador e o comportamento do algoritmo, que também modifica de forma autônoma sua estrutura durante a operação, de acordo com os dados que recebe.
Há vários mecanismos que evitam que a tecnologia seja uma caixa-preta. São os instrumentos técnicos que garantem a regularidade procedimental, como a verificação de software, acordos criptográficos e a função zero-knowledge proofs e fair random choices. “O importante é que esses mecanismos permitem que os algoritmos sejam verificáveis e que sigam os padrões da regularidade procedimental”, conclui.