O objetivo principal da norma é estabelecer diretrizes para governança, auditoria e transparência no uso da IA. O risco de vieses, a falta de explicabilidade de algumas ferramentas e a necessidade de supervisão humana se tornaram tópicos centrais nesse debate.
Cesar Orlando (*)
A Inteligência Artificial (IA) está moldando o futuro do Judiciário, e a recente resolução do Conselho Nacional de Justiça (CNJ) é uma resposta direta a esse avanço. Regulamentar o uso dessa tecnologia nos tribunais é um passo necessário, mas também desafiador.
Desde a publicação da Resolução nº 332/2020, muita coisa mudou. O desenvolvimento acelerado da IA Generativa trouxe questões éticas e jurídicas urgentes: como garantir que os algoritmos sejam imparciais? De que forma proteger dados sensíveis? Como evitar que sistemas automatizados influenciem decisões de forma indevida?
O CNJ percebeu que era preciso atualizar as regras para acompanhar essas evoluções. O risco de vieses, a falta de explicabilidade de algumas ferramentas e a necessidade de supervisão humana se tornaram tópicos centrais nesse debate.
O objetivo principal da norma é estabelecer diretrizes para governança, auditoria e transparência. A IA no Judiciário deve ser um suporte, e não um substituto do trabalho humano. Para isso, a resolução cria um sistema de classificação de riscos:
- Excessivo: sistemas que podem comprometer direitos fundamentais ou influenciar decisões sem possibilidade de revisão humana;
- Alto: ferramentas que impactam diretamente a análise processual e necessitam de controle constante;
- Baixo: soluções que auxiliam em tarefas administrativas e organizacionais sem influência decisória.
Além disso, foram proibidas práticas como previsão de conduta criminosa baseada em perfis, classificação automática de indivíduos para análise de mérito judicial e uso de reconhecimento biométrico para identificar emoções.
O CNJ também determinou que os sistemas sejam projetados com Privacy by Design (privacidade desde a criação de sistemas e processos) e Privacy by Default (configurações que oferecem o máximo de privacidade ao usuário), garantindo anonimização obrigatória de dados sigilosos.
Como as legaltechs serão afetadas?
Para as startups, a nova regulamentação impõe desafios que exigem adaptações rápidas e estratégicas. Soluções de Jurimetria, classificação automática de dados processuais e automação na elaboração de peças jurídicas precisarão ser ajustadas para garantir conformidade com as novas diretrizes.
A obrigatoriedade da supervisão humana e a necessidade de auditorias constantes podem aumentar custos operacionais, demandando investimentos adicionais em governança e processos internos mais rígidos.
A nova realidade também exige um esforço redobrado na explicabilidade e contestabilidade dos algoritmos. Não basta que as soluções entreguem resultados precisos; elas precisam ser transparentes o suficiente para que os usuários compreendam como as análises são feitas e tenham meios para questionar eventuais inconsistências. Isso implica o desenvolvimento de interfaces mais intuitivas e relatórios detalhados.
Por outro lado, o regimento pode se tornar um catalisador para parcerias estratégicas entre legaltechs e tribunais. Ao definir diretrizes claras e priorizar tanto a inovação quanto a segurança jurídica, a resolução cria um ambiente propício para a colaboração entre o setor público e empresas especializadas em tecnologia e inovação.
Essas parcerias podem acelerar a adequação das ferramentas tecnológicas às exigências regulatórias, além de fomentar o desenvolvimento de soluções mais eficazes e alinhadas às necessidades do Judiciário.
Os tribunais têm 12 meses para adequar seus modelos, ou seja, será uma transição gradual. A previsibilidade gerada pela regulamentação é um ponto positivo: ao definir regras claras, cria-se um ambiente de maior confiança para advogados, juízes e partes envolvidas nos processos. Com diretrizes bem estabelecidas, a IA pode se tornar uma aliada da eficiência judiciária sem comprometer a segurança jurídica.
A supervisão humana ainda é necessária?
Sim, e esse é um dos aspectos mais enfatizados pela resolução. Embora a IA possa otimizar tarefas, a palavra final deve ser sempre do ser humano. Isso reforça a necessidade de explicabilidade e transparência nas soluções tecnológicas.
No fim das contas, a abordagem protege não apenas os jurisdicionados, mas também as próprias empresas que desenvolvem essas ferramentas, evitando riscos de uso indevido.
É preciso entender que a regulamentação do CNJ não está engessando a evolução tecnológica, mas sim garantindo que ela aconteça de forma segura e responsável. Estamos vivendo um momento de divisão de águas. Estamos diante de uma transformação profunda e cabe a nós, empreendedores do setor, nos adaptarmos de maneira estratégica. O futuro das legaltechs depende de como cada um irá encarar a norma. Entrave ou estímulo para a inovação consciente e eficiente?
(*) Fundador e CEO da Jurídico AI, legaltech que oferece soluções de Inteligência Artificial para produção de documentos jurídicos