O caso de prompt injection no STJ
O Superior Tribunal de Justiça (STJ) proferiu uma decisão emblemática ao multar advogados em R$ 20 mil por utilizarem a técnica de prompt injection em petições apresentadas ao tribunal. A prática, que consiste em inserir comandos maliciosos para manipular o comportamento de sistemas de Inteligência Artificial, foi interpretada como uma tentativa de ludibriar o sistema judiciário.
A decisão reforça a postura rigorosa da corte quanto ao uso ético de tecnologias no Direito. O tribunal entendeu que a manipulação de ferramentas digitais para obter resultados processuais artificiais fere a boa-fé processual e a integridade da prestação jurisdicional.
O que é prompt injection e seus riscos jurídicos
O prompt injection é uma vulnerabilidade de segurança em modelos de linguagem (LLMs) onde o usuário insere instruções que forçam a IA a ignorar suas diretrizes originais. No contexto jurídico, o uso dessa técnica pode gerar:
- Criação de jurisprudência inexistente ou distorcida.
- Manipulação de resumos de processos para induzir o magistrado ao erro.
- Violação direta do dever de lealdade processual previsto no Código de Processo Civil.
- Risco à segurança da informação dos tribunais.
Ato atentatório à dignidade da Justiça
A multa aplicada pelo STJ fundamenta-se na caracterização de ato atentatório à dignidade da Justiça. Ao tentar manipular a ferramenta de IA utilizada pelo tribunal, os advogados ultrapassaram os limites da defesa técnica, comprometendo a transparência e a confiabilidade do processo.
O magistrado relator destacou que a tecnologia deve servir como suporte à atividade jurídica, e não como instrumento para subverter a verdade dos fatos ou a correta aplicação do Direito. A conduta foi considerada uma afronta aos princípios éticos que regem a advocacia.
Impactos para a advocacia e o uso de IA
Este precedente do STJ serve como um alerta para todos os operadores do Direito que utilizam ferramentas de IA em suas rotinas. A responsabilidade pelo conteúdo das petições é integralmente do advogado, independentemente da tecnologia utilizada para sua elaboração.
Para evitar sanções, os profissionais devem:
- Realizar a revisão humana rigorosa de todo conteúdo gerado por IA.
- Verificar a autenticidade de todas as citações e precedentes mencionados.
- Manter a transparência sobre o uso de ferramentas tecnológicas no processo.
- Priorizar a ética profissional acima da automação acelerada.
Fonte: Aceder à Notícia Original
