O debate sobre Prompt Injection vai além da tecnologia: trata-se de preservar a integridade do processo judicial e assegurar que os sistemas de IA utilizados pelos tribunais permaneçam confiáveis e imunes a tentativas de manipulação. À medida que essas ferramentas ganham espaço no Judiciário, identificar e neutralizar esse tipo de prática deixa de ser um diferencial e passa a ser uma necessidade estratégica para a gestão de risco na advocacia e para a própria credibilidade da Justiça.
Victor Rizzo (*)
A Inteligência Artificial (IA) passou a integrar de forma definitiva a rotina do Poder Judiciário. Ferramentas baseadas em modelos de linguagem já apoiam a classificação de processos, a organização de documentos, a elaboração de minutas e diversas outras atividades que tornam a prestação jurisdicional mais eficiente. Esse movimento representa um avanço importante para todo o sistema de Justiça, mas também cria uma superfície de vulnerabilidade que vem sendo cada vez mais discutida pela comunidade jurídica: a possibilidade de manipulação dos sistemas de IA dos tribunais por meio do chamado Prompt Injection.
O tema ganhou visibilidade recentemente após a identificação de casos no Judiciário brasileiro em que petições continham instruções ocultas destinadas não ao magistrado, mas aos sistemas de Inteligência Artificial utilizados pelos tribunais. Trata-se de uma mudança de paradigma. Pela primeira vez, o documento processual deixa de dialogar exclusivamente com os operadores do Direito e passa a conter comandos voltados diretamente para as ferramentas tecnológicas responsáveis pelo processamento das ações.
O Prompt Injection consiste na inserção deliberada de instruções maliciosas capazes de alterar o comportamento de um modelo de Inteligência Artificial durante a leitura de um documento. Essas instruções podem permanecer completamente invisíveis ao olhar humano, utilizando recursos como fontes reduzidas, texto branco sobre fundo branco, metadados ou QR Codes. Para um advogado ou um magistrado, esses comandos simplesmente não existem, são invisíveis. Para a IA, entretanto, todo esse conteúdo é processado normalmente, independentemente de sua formatação.
O objetivo desse tipo de prática não é convencer o juiz por meio de argumentos jurídicos mais consistentes, mas induzir o comportamento da Inteligência Artificial que participa do fluxo de processamento da demanda. Um comando oculto pode, por exemplo, orientar a IA a produzir uma triagem superficial, elaborar pareceres sem a devida análise do conteúdo processual ou até sugerir que um pedido de tutela de urgência seja deferido de forma automática, sem passar pela análise adequada do magistrado. Também pode buscar interferir na elaboração de uma sentença ou em outras etapas do processamento automatizado. Quando uma instrução é inserida com essa finalidade, estamos diante de um Prompt Injection.
Interferência indevida
Embora a decisão continue sendo uma atribuição exclusiva do magistrado, a tentativa de influenciar o comportamento da IA representa uma interferência indevida em uma etapa cada vez mais relevante da atividade jurisdicional.
O risco se torna ainda mais relevante diante do volume de informações que essas ferramentas precisam processar. Sistemas de IA já são utilizados para apoiar atividades relacionadas a grandes volumes de intimações, triagens e documentos, tornando a integridade das informações recebidas um elemento essencial para a confiabilidade de todo o fluxo.
Sob a perspectiva jurídica, esse aspecto merece especial atenção. Quando um advogado insere comandos ocultos em uma petição para manipular sistemas utilizados pelo Poder Judiciário, não estamos diante de uma simples discussão tecnológica. Trata-se de uma tentativa deliberada de obter vantagem processual mediante a indução de comportamento de uma ferramenta empregada pelo tribunal. É uma conduta incompatível com os deveres de lealdade, boa-fé objetiva e ética profissional que regem o exercício da advocacia.
Por essa razão, o principal desafio dos escritórios de advocacia deixa de ser apenas compreender o funcionamento dessa técnica e passa a ser identificar sua ocorrência. Afinal, não é possível impugnar aquilo que sequer pode ser visualizado durante a leitura convencional de um documento. A partir do momento em que os tribunais utilizam Inteligência Artificial para apoiar suas atividades, torna-se igualmente necessário verificar se as petições apresentadas contêm comandos destinados exclusivamente aos modelos de IA.
Foi a partir deste cenário, que a INOV.AI disponibilizou o PromptSafe, uma solução capaz de identificar 12 modalidades diferentes de Prompt Injection em documentos processuais. A solução pode ser utilizada tanto integrada com o serviço CADASTRO 4.0 para varredura de documentos de iniciais de processos, como por meio de API, permitindo que a análise seja incorporada aos demais fluxos da esteira de processamento dos escritórios, em todas as etapas processuais.
Geração de laudo técnico
A tecnologia reconhece diferentes formas de ocultação ou inserção de comandos utilizados para direcionar o comportamento de sistemas de Inteligência Artificial. Mais do que apontar a existência de um possível comando oculto, o PromptSafe gera um laudo técnico que pode ser anexado ao processo como prova da manipulação.
O relatório apresenta informações como o arquivo analisado, a data do documento e o volume de páginas, além de contextualizar onde a ocorrência foi identificada. A ferramenta localiza e permite verificar como aquele elemento aparece no documento original, oferecendo maior transparência sobre a evidência encontrada.
Esse ponto faz toda a diferença para a atuação dos escritórios de advocacia. O objetivo não é apenas demonstrar que existe um Prompt Injection, mas oferecer um elemento técnico capaz de embasar providências jurídicas concretas, ensejando a condenação por litigância de má-fé e ato atentatório à dignidade da justiça.
E, quando presentes os pressupostos legais, representar o profissional responsável perante a Ordem dos Advogados do Brasil. Em outras palavras, a tecnologia deixa de ser apenas um mecanismo de proteção e passa a produzir evidências que fortalecem a atuação jurídica.
Influência sobre sistemas automatizados
Esse aspecto merece especial atenção porque o problema não está restrito às petições iniciais. Embora esse seja um dos momentos em que a análise preventiva pode ser especialmente relevante, qualquer documento inserido no fluxo processual pode ser utilizado como vetor de Prompt Injection. Contestações, recursos, manifestações, documentos apresentados por réus, peritos e outras partes também podem conter comandos destinados a influenciar sistemas automatizados.
Esse é um aspecto que merece reflexão. Durante muito tempo, a preocupação dos escritórios esteve concentrada na segurança de seus próprios sistemas e informações. A expansão da Inteligência Artificial exige uma mudança de perspectiva. Agora, também será necessário verificar se os documentos produzidos por todas as partes procuram explorar vulnerabilidades dos modelos de IA utilizados pelo próprio sistema de Justiça. Trata-se de um novo tipo de risco processual, que demanda procedimentos específicos de auditoria documental e novas práticas de prevenção.
O debate sobre Prompt Injection, portanto, vai além da tecnologia: trata-se de preservar a integridade do processo judicial e assegurar que os sistemas de IA utilizados pelos tribunais permaneçam confiáveis e imunes a tentativas de manipulação. À medida que essas ferramentas ganham espaço no Judiciário, identificar e neutralizar esse tipo de prática deixa de ser um diferencial e passa a ser uma necessidade estratégica para a gestão de risco na advocacia e para a própria credibilidade da Justiça.
(*) CEO da INOV.AI e Diretor de Inovação da e-Xyon