TJ-BA encaminha à OAB-BA caso envolvendo suposta manipulação de IA em processo criminal
RESUMO: O TJ-BA encaminhou à OAB-BA um caso de possível tentativa de manipular ferramentas de IA usadas pelo Judiciário, detectado durante a análise de uma apelação criminal. O episódio envolve prompt injection e foi identificado pelo Desembargador Baltazar Miranda Saraiva.
O Tribunal de Justiça da Bahia encaminhou à OAB-BA um caso de possível tentativa de manipular ferramentas de IA utilizadas pelo Judiciário, identificado durante a análise de uma apelação criminal na 2ª Turma da Primeira Câmara Criminal. O episódio foi relatado pelo Desembargador Baltazar Miranda Saraiva.
A apuração ocorreu com o apoio da equipe institucional, que utilizou o Elos IA, ferramenta de IA disponibilizada pelo TJ-BA para auxiliar na elaboração de despachos e votos. O sistema identifica a possibilidade de inserção de comandos ocultos — o chamado prompt injection — nas peças processuais.
O magistrado explicou que a mensagem estava escrita em espaços em branco, de modo a escapar da leitura normal; o conteúdo pretendia orientar a ferramenta a analisar o processo e apresentar uma decisão favorável ao réu, mantendo o próprio comando em sigilo.
A prática, conhecida como prompt injection, envolve inserir instruções em conteúdos submetidos a sistemas de IA com o objetivo de influenciar respostas. No caso identificado pelo TJ-BA, o comando buscava interferir na análise de uma peça processual por meio das ferramentas tecnológicas utilizadas no Judiciário.
Diante do ocorrido, o Desembargador determinou o registro do episódio nos autos e encaminhou ofício à OAB-BA para que a instituição avalie eventual infração ético-disciplinar. A medida não antecipa condenação, mas submete o caso à avaliação da entidade competente.
Para o magistrado, o episódio evidencia a necessidade de estabelecer limites e responsabilidades no uso da IA. A IA deve servir como instrumento de apoio à atividade jurisdicional, capaz de auxiliar na organização de informações, na análise de documentos e na elaboração de minutas, mas jamais substituir o raciocínio jurídico, destacou.
O magistrado também ressaltou que a medida não questiona o uso da IA pela advocacia, cujas ferramentas podem contribuir para a pesquisa e a eficiência do trabalho jurídico. A preocupação, segundo ele, está na utilização de expedientes ocultos com a finalidade de interferir em ferramentas empregadas pelo Poder Judiciário.
A liberdade deve ser exercida nos limites da lealdade processual, afirmou, reforçando a necessidade de controles responsáveis no uso de tecnologias na Justiça. O episódio ressalta a importância de mecanismos de segurança para IA e da observância dos deveres éticos por parte dos profissionais que utilizam essas ferramentas.
Ao identificar a possível tentativa de manipulação, o TJ-BA reiterou seu compromisso com a transparência, a segurança e a integridade da atividade jurisdicional, deixando claro que a responsabilização caberá aos órgãos competentes e às normas éticas vigentes.






