Tentativa de manipulação algorítmica em processo criminal
A 2ª Turma da Primeira Câmara Criminal do Tribunal de Justiça da Bahia (TJ-BA) detectou uma tentativa de manipulação de ferramentas de Inteligência Artificial por meio da técnica conhecida como prompt injection. O caso envolveu um pedido de Habeas Corpus em favor de um acusado de homicídio e sequestro, protocolado por uma advogada inscrita na OAB-MS.
A fraude consistiu na inserção de uma camada de texto invisível ao olho humano dentro do arquivo PDF da petição. O conteúdo oculto continha instruções diretas para que a IA do tribunal deferisse o pedido de liberdade, caso o sistema fosse utilizado na triagem ou na elaboração da minuta. A Diretoria de Modernização do TJ-BA confirmou que o mecanismo foi inserido deliberadamente para interferir no fluxo lógico dos algoritmos.
Fundamentação e desdobramentos
O relator do caso, Desembargador Pedro Guerra, destacou em seu voto que a conduta fere a integridade dos sistemas de governança digital do Judiciário. O colegiado determinou medidas imediatas para apurar a responsabilidade ética e criminal dos envolvidos:
- Expedição de ofício à OAB-MS para abertura de procedimento disciplinar contra a advogada responsável pelo protocolo.
- Envio de cópia dos autos ao Ministério Público da Bahia (MPBA) para investigação de possíveis ilícitos penais decorrentes da tentativa de fraude processual.
- Reforço na nota técnica do Centro de Inteligência da Justiça Estadual (CIJEBA), que estabelece diretrizes de segurança para o uso de IA.
O tribunal reforçou que, embora utilize IA para otimizar a triagem, a responsabilidade final pelo conteúdo das decisões permanece exclusivamente com os magistrados. A governança de dados no TJ-BA segue as normas de proteção vigentes, e o caso serve como alerta para a necessidade de auditoria constante em documentos digitais submetidos ao sistema judiciário.
Fonte de Referência: Consulte a publicação original
