O prompt avança o processo, enquanto o direito ainda busca resposta

Inteligência Artificial e o Judiciário: Desafios e Fraudes

A inteligência artificial (IA) já desempenha um papel significativo no sistema judiciário. Recentemente, na 3ª Vara do Trabalho de Parauapebas, advogadas utilizaram comandos invisíveis em petições para manipular a IA do tribunal. Essa prática, embora surpreendente para alguns, revela-se mais comum do que o meio jurídico admite.

É importante reconhecer que a IA no Direito não se limita a melhorar a eficiência; ela também pode ser utilizada para obter vantagens indevidas. Essa distinção é crucial, mesmo que desconfortável para muitos.

Fraude Processual e a Necessidade de Regulamentação

Automatizar a leitura de processos e organizar jurisprudências são exemplos de eficiência legítima. No entanto, inserir comandos ocultos para manipular a IA ou induzir erros no adversário configura fraude processual. O grande desafio é que o ordenamento jurídico brasileiro ainda não definiu claramente essa linha de demarcação.

A técnica conhecida como prompt injection revela uma contradição preocupante. Enquanto o Judiciário busca eficiência por meio da IA, novas vulnerabilidades surgem, e a legislação atual não está preparada para enfrentá-las. Atualmente, carecemos de tipificação penal e regulação específica sobre o tema.

Consequências e Respostas Necessárias

A multa de R$ 84 mil e a suspensão aplicadas no caso do Pará foram respostas relevantes, mas ainda insuficientes. A prática de prompt injection já se faz presente em diversos documentos legais, como contratos e notificações, e tende a se sofisticar à medida que o sistema tenta combatê-la.

Leia também

Satélites de baixa órbita transformam a conectividade no Brasil

Custo da IA: Agentes sem limites tornam inovação uma despesa incerta

Papa discute regulação da Inteligência Artificial

Duas ações estruturais são urgentes. A primeira é a tipificação do prompt injection como uma fraude processual qualificada, com uma previsão legal específica. Enquanto essa conduta for tratada apenas eticamente, a punição dependerá da sorte de quem for flagrado.

Transparência Algorítmica e Justiça Processual

A segunda ação, igualmente urgente, é a promoção da transparência algorítmica nos tribunais. Se a IA é utilizada para analisar e subsidiar decisões, a advocacia deve ter acesso a informações sobre o funcionamento desses sistemas e seus critérios de análise. Sem essa transparência, a justiça processual fica comprometida, pois não há paridade de armas entre as partes.

A IA é uma ferramenta que veio para ficar e deve ser utilizada de forma ampla. Contudo, o processo judicial não deve premiar quem possui a técnica mais sofisticada, mas sim garantir que a razão prevaleça. Enquanto o sistema não assegurar isso de maneira consistente, a ética será constantemente testada frente à técnica de quem busca burlá-la.

Conclusão: A Verdade no Processo Judicial

O Direito sempre enfrentou desafios impostos pelas inovações tecnológicas. Atualmente, esses desafios estão presentes nas próprias petições, com comandos ocultos que podem enganar o sistema. No fim, o objetivo do processo é apurar a verdade, não testar a criatividade de quem tenta enganar a justiça.

Fonte por: Convergencia Digital