Resumo: TJ-BA identifica prompt injection em habeas corpus.
O que: instruções ocultas para deferimento caso a análise seja feita por IA.
Onde/Quem: Bahia; Tribunal de Justiça da Bahia, advogada do Mato Grosso do Sul.
Impacto: encaminhamentos à OAB-MS e ao MP-BA; CIJEBA emitiu nota técnica sobre riscos da IA generativa.
Bahia – O Tribunal de Justiça da Bahia (TJ-BA) identificou o uso de prompt injection em um documento digital com o objetivo de direcionar ferramentas de Inteligência Artificial da Corte para atender a um pedido de Habeas Corpus Criminal, julgado no plenário virtual pela 2ª Turma da Primeira Câmara Criminal. O recurso foi protocolado por uma advogada atuante no Mato Grosso do Sul.
Conforme apurado pela Diretoria de Modernização do TJ-BA, houve a inserção, no documento em que o habeas corpus foi solicitado, de uma camada textual imperceptível à visualização comum em PDF, com instruções para que o Habeas Corpus fosse deferido em caso de a análise do caso ser feita por Inteligência Artificial. O documento foi protocolado por uma advogada que atua no Mato Grosso do Sul.
“A área técnica certificou tratar-se de mecanismo deliberado de injeção de instruções (prompt injection), concebido para interferir no fluxo lógico dos algoritmos de IA utilizados na triagem e elaboração de minutas pelo Poder Judiciário”,
destacou o voto do relator do caso, Desembargador Pedro Guerra.
Diante da situação, o colegiado determinou o envio de um ofício à Ordem dos Advogados do Brasil – seccional Mato Grosso do Sul (OAB-MS) para a instauração de um procedimento disciplinar contra os envolvidos, diante da gravidade da conduta. Uma cópia do documento também foi remetida ao Ministério Público da Bahia (MP-BA), para apuração de eventuais ilícitos.
O TJ-BA ressalta que a utilização de ferramentas de Inteligência Artificial gerativa continua a seguir os requisitos de segurança da informação, proteção de dados pessoais e governança, conforme a legislação vigente. A utilização de IA na Corte não dispensa a supervisão e a revisão dos processos pelos magistrados, que permanecem como os únicos responsáveis pelo conteúdo das decisões judiciais.
Além disso, o Centro de Inteligência da Justiça Estadual (CIJEBA) aprovou, em julho, uma nota técnica com o objetivo de disseminar conhecimento e alertar magistrados sobre os riscos do prompt injection, fornecendo ferramentas para sua identificação, repressão e prevenção.
O caso – No julgamento, a 2ª Turma da Primeira Câmara Criminal negou o Habeas Corpus no processo que decretou a prisão preventiva de D.A.B., suspeito de homicídio qualificado, sequestro e cárcere privado, adulteração de sinal identificador de veículo automotor e organização criminosa armada. A decisão enfatizou que a custódia cautelar se apoiou em dados factuais palpáveis extraídos do inquérito.
O relator ainda pontuou que a aplicação de medidas cautelares diversas da prisão aparece como inadequada e insuficiente para salvaguardar a ordem pública, resguardar a instrução penal e assegurar a eficácia de eventual decreto condenatório futuro.