TRT endurece regras contra comandos ocultos para enganar IA da Justiça

A Comissão de Inteligência do Tribunal Regional do Trabalho da 5ª Região (TRT-BA) editou uma nota técnica com um alerta aos magistrados, servidores e advogados sobre os riscos decorrentes da prática de prompt injection. O método consiste na inserção deliberada de comandos e textos ocultos ou dissimulados em peças e documentos anexados aos autos para manipular os sistemas de inteligência artificial generativa utilizados pelo Judiciário na análise e triagem processual.

Veja também: Master: Promotoria apura abusos em consignados em Itabuna

Proposta pelo juiz André Oliveira Neves, coordenador do Grupo Operacional da Comissão de Inteligência, a orientação complementa as diretrizes fixadas anteriormente. Enquanto o documento anterior focava na utilização ética, na proteção de dados e na checagem de eventuais “alucinações” dos modelos de linguagem, a nova publicação direciona o foco para tentativas de interferência externa promovidas por partes interessadas no processo, como advogados, por exemplo.

Mecanismo de fraude e sanções por litigância de má-fé

O prompt injection ocorre quando partes ou advogados inserem instruções invisíveis em arquivos digitais, como orientações para que a ferramenta de IA omita argumentos da parte contrária, priorize teses específicas ou elabore minutas de decisões tendenciosas. A comissão ressalta que essa conduta diverge das falhas naturais dos algoritmos, caracterizando uma tentativa deliberada de enganar o sistema jurisdicional.

O TRT-BA destacou que a utilização dessa estratégia para fraudar a análise de dados pode configurar litigância de má-fé, sujeitando os responsáveis a punições severas previstas no Código de Processo Civil (CPC) e na Consolidação das Leis do Trabalho (CLT). O colegiado reforçou que a utilização de mecanismos tecnológicos não exime advogados e procuradores da responsabilidade direta pela veracidade, autenticidade e correção das peças submetidas ao Poder Judiciário.

Supervisão humana obrigatória

Para combater a prática, a Nota Técnica orienta que os operadores do direito realizem a revisão crítica e minuciosa de todo o material sumarizado por ferramentas automatizadas, além de sugerir o uso de instruções de segurança que forcem os modelos a tratar documentos apenas como fonte passiva de dados.

O tribunal orienta o envio imediato de arquivos sob suspeita de manipulação à Secretaria de Tecnologia da Informação e Comunicação (Setic) para passar por perícia técnica.