Resumo: TRT-5, Bahia, divulga nota técnica sobre prompt injection e IA no Judiciário. Documento orienta identificar e prevenir comandos ocultos em peças processuais, reforçando revisão humana e proteção de dados. Ampara as NTs 005/2025 e 001/2026, em consonância com CNJ 615/2025.
A Comissão de Inteligência do Tribunal Regional do Trabalho da 5ª Região (TRT-5), com sede na Bahia, divulgou uma nota técnica sobre o risco de prompt injection, prática que insere comandos ocultos em peças processuais para manipular ferramentas de IA. O objetivo é orientar a identificação, prevenção e enfrentamento dessa prática, que pode comprometer a integridade das informações utilizadas no Judiciário.
A nota foi apresentada pelo juiz André Oliveira Neves, coordenador do Grupo Operacional da Comissão de Inteligência, e discutida pelos Grupos Operacional e Decisório. Ela dá continuidade ao trabalho sobre o uso da IA no Judiciário e está alinhada com as diretrizes da NT nº 005/2025, bem como com a adesão à NT NUGEPNAC 004/2024 do TRT da 6ª Região, que trata da utilização de ferramentas de IA generativa no Poder Judiciário.
Enquanto a NT n° 005/2025 enfatiza o uso ético, seguro e responsável dessas tecnologias — com a revisão humana, proteção de dados pessoais e verificação das informações — a nova nota técnica aborda uma dimensão adicional: as tentativas de manipulação por agentes externos, por meio de instruções inseridas de forma dissimulada em peças processuais.
O prompt injection pode ocorrer quando documentos contêm textos invisíveis ou comandos ocultos que orientam a IA a omitir argumentos de uma das partes, privilegiar determinadas alegações ou produzir minutas com conclusões tendenciosas. A prática difere das chamadas “alucinações” da IA, pois envolve uma tentativa deliberada de subverter o funcionamento do sistema.
Entre as recomendações estão a revisão crítica de todo o conteúdo produzido com auxílio de IA, a adoção de comandos preventivos para tratar peças processuais apenas como dados para análise e o encaminhamento de peças suspeitas à Setic (Secretaria de Tecnologia da Informação e Comunicação) para avaliação técnica. O documento também incentiva o uso de ferramentas institucionais com mecanismos de detecção de comandos ocultos e a capacitação contínua de magistrados e servidores.
Em conformidade com a Resolução CNJ nº 615/2025, a Comissão reforça que a IA deve atuar como instrumento auxiliar, sem substituir a análise humana ou a responsabilidade do magistrado pela decisão. A supervisão humana efetiva é apontada como uma das principais formas de prevenir a manipulação algorítmica e preservar a imparcialidade e a confiabilidade da prestação jurisdicional.
Com as Notas Técnicas 005/2025 e 001/2026, a Comissão de Inteligência do TRT-5 amplia as orientações sobre os desafios da incorporação da IA às rotinas do Judiciário, promovendo uma abordagem de uso responsável, prevenção de riscos e proteção da integridade processual.