TJ-BA detecta tentativa de manipulação de IA por prompt injection

O Tribunal de Justiça do Estado da Bahia (TJ-BA) identificou e neutralizou uma tentativa de fraude tecnológica praticada no âmbito de um Habeas Corpus Criminal em trâmite na 2ª Turma da Primeira Câmara Criminal.

A defesa de um réu acusado de crimes de homicídio e sequestro utilizou a técnica conhecida como prompt injection, inserindo comandos e instruções ocultas na estrutura digital da petição com o objetivo de induzir as ferramentas de Inteligência Artificial da Corte a elaborar minuta favorável ao deferimento da ordem de soltura no plenário virtual.

Veja também: CNJ abre novo PAD contra desembargadora investigada na Faroeste

Conforme atestado pela Diretoria de Modernização e pelo voto do relator do processo, desembargador Pedro Guerra, a fraude consistiu na aplicação de uma camada textual oculta no arquivo em formato PDF, imperceptível na leitura humana convencional, mas apta a ser processada por algoritmos de triagem e auxílio à elaboração de decisões. O documento foi protocolado por uma advogada inscrita na Ordem dos Advogados do Brasil – Seccional Mato Grosso do Sul (OAB-MS).

Diante do expediente ilícito, o colegiado determinou a expedição de ofício à OAB-MS para abertura de procedimento administrativo disciplinar contra a profissional, além de remeter cópia dos autos ao Ministério Público do Estado da Bahia (MP-BA) para apuração de eventuais crimes.

Em nota institucional, o TJ-BA reiterou que o uso de ferramentas generativas na Corte cumpre rigorosos padrões de governança e segurança da informação, destacando que a Inteligência Artificial atua em caráter meramente auxiliar, sem afastar a revisão humana e a responsabilidade exclusiva dos magistrados pelo teor dos julgados.

O tribunal destacou ainda que o Centro de Inteligência da Justiça Estadual (CIJEBA) aprovou Nota Técnica orientativa para conscientizar magistrados e instrumentalizar o Judiciário baiano na identificação, prevenção e repressão a tentativas de manipulação algorítmica.