O que é ‘prompt injection’? Quando a Justiça descobriu que também pode ser hackeada

A inteligência artificial já entrou na advocacia e no Judiciário. Não entrou pela porta da frente, com cerimônia regulatória, consenso institucional e maturidade técnica plena. Entrou como quase toda tecnologia entra: primeiro pela prática, depois pelo desconforto, e só então pela governança. A pergunta, portanto, não é mais se advogados, magistrados, servidores e empresas usarão IA. Eles já usam. A pergunta real é mais incômoda: a IA será uma infraestrutura de eficiência, acesso à Justiça e inteligência institucional, ou se tornará uma nova superfície de manipulação, fraude processual e erosão da confiança no sistema judicial? O episódio recente envolvendo petições com comandos ocultos (por meio de prompt injection) em processos judiciais é um sinal de alerta.

Brasília Tech Summit: Amado Mundo reúne Motta, Gonet e Google no maior encontro sobre regulação digital do Brasil

Segundo notícia publicada pelo Tribunal de Justiça de São Paulo, foram identificadas petições com instruções inseridas em fonte branca sobre fundo branco, invisíveis ao leitor comum, mas potencialmente interpretáveis por sistemas de inteligência artificial. Os comandos buscavam induzir a ferramenta a deferir pedidos como justiça gratuita, tutela de urgência e citação do réu. O caso levou à aplicação de multa e à comunicação ao Ministério Público, à Corregedoria e à OAB. Isso tem nome: prompt injection.

O que é prompt injection e a litigância diante da infraestrutura?

Em termos simples, prompt injection é a tentativa de manipular uma IA por meio da inserção de comandos escondidos, maliciosos ou desviantes em textos, documentos, páginas, metadados, imagens ou arquivos. O objetivo é fazer com que o sistema ignore sua função original e obedeça a uma instrução indevida. No caso judicial, a petição deixa de ser apenas um argumento dirigido ao juiz. Ela passa a conter uma segunda camada, invisível, dirigida à máquina.

É uma mudança relevante. Durante séculos, o processo judicial foi construído sobre linguagem humana: fatos, fundamentos, provas, pedidos e decisões. Agora, começa a surgir uma nova camada processual: a linguagem dirigida aos sistemas que auxiliam a leitura, a triagem, a sumarização e a organização dos autos.

Ou seja, não se litiga apenas diante do juiz. Em alguma medida, passa-se a tentar litigar também diante da infraestrutura tecnológica que cerca o juiz.

Esse é o ponto mais provocativo: a Justiça está descobrindo que também pode ser “hackeada” por palavras. Não por invasão de servidor, não por malware, não por quebra de senha. Mas por linguagem. Por instruções escondidas em documentos aparentemente comuns. Por comandos que exploram a forma como modelos de IA leem, processam e priorizam informações. Isso não significa que a inteligência artificial seja o problema. A leitura correta é outra. O problema é usar IA sem governança, sem auditoria, sem filtros e sem compreensão adequada de seus riscos. Tecnologia sem governança escala o abuso.

Ao mesmo tempo, demonizar a IA seria um erro estratégico. A IA pode ser uma das maiores aliadas da advocacia e do Judiciário nas próximas décadas. Na advocacia, pode apoiar pesquisa jurisprudencial, revisão contratual, organização de documentos, elaboração de minutas, análise de riscos, comparação de versões, due diligence, compliance, gestão de provas, preparação de audiências e atendimento mais eficiente ao cliente. Pode reduzir custos, acelerar entregas e liberar o advogado para aquilo que realmente importa: estratégia, julgamento crítico, negociação, criatividade jurídica e responsabilidade profissional.

No Judiciário, os usos positivos são igualmente relevantes. A IA pode auxiliar na triagem processual, identificação de precedentes, sumarização de autos extensos, detecção de demandas repetitivas, gestão de acervo, padronização de fluxos administrativos, melhoria da linguagem institucional e identificação de padrões de litigância abusiva. Em um país com milhões de processos, rejeitar esse potencial em nome de um romantismo analógico seria irresponsável.

Mas a IA também pode ser péssima quando usada de forma preguiçosa, irresponsável ou oportunista.

Na advocacia, o mau uso aparece quando profissionais terceirizam raciocínio jurídico à máquina, apresentam peças sem revisão, citam precedentes inexistentes, expõem dados sigilosos em ferramentas inadequadas, automatizam demandas frágeis em massa ou usam IA para dar aparência técnica a teses juridicamente vazias. A IA não transforma mediocridade em excelência. Muitas vezes, apenas torna a mediocridade mais rápida, mais volumosa e mais difícil de detectar.

No Judiciário, o risco é ainda mais sensível. A IA pode gerar ganhos reais de eficiência, mas não pode se converter em atalho decisório. Não pode decidir sem transparência. Não pode substituir fundamentação. Não pode reduzir contraditório a formalidade. Não pode transformar probabilidade estatística em verdade jurídica. E não pode operar em uma zona cinzenta em que ninguém sabe exatamente quando foi usada, como foi usada, com quais dados, com quais limites e sob qual supervisão humana.

Para além do erro ou descuido, há uma tentativa de manipulação

O prompt injection adiciona uma dimensão ainda mais grave. Não estamos falando apenas de erro, alucinação ou uso descuidado. Estamos falando de tentativa deliberada de manipular a infraestrutura cognitiva que começa a apoiar o sistema de Justiça. É fraude adaptada à era dos modelos generativos.

Antes, a má-fé processual se manifestava por documentos adulterados, narrativas artificiais, multiplicação abusiva de ações, ocultação de fatos ou distorção de provas. Agora, pode também se manifestar por comandos invisíveis destinados a influenciar sistemas automatizados. A petição passa a ter uma camada semântica para humanos e uma camada operacional para máquinas. Essa duplicidade precisa ser tratada com seriedade.

A resposta, contudo, não deve ser pânico tecnológico ou proibição. Deve ser arquitetura institucional.

Tribunais precisam adotar políticas claras de uso de IA, ferramentas de detecção de instruções ocultas, validação de documentos, logs de interação, segregação entre conteúdo processual e instruções de sistema, classificação de risco, revisão humana obrigatória, gestão de incidentes e auditoria independente. O uso de IA pelo Judiciário precisa ser documentado, compreensível e compatível com devido processo legal, proteção de dados, segurança da informação e transparência institucional.

A advocacia também precisa amadurecer rapidamente. O uso de IA em peças, pareceres, contratos e estratégias deve observar revisão humana, dever de confidencialidade, integridade documental, proteção de dados e responsabilidade técnica. A assinatura de uma petição não pode virar um ato simbólico sobre um texto que o advogado não compreende. Quem assina responde. E quem usa IA para manipular sistemas judiciais não está inovando. Está fraudando. O tema não é futurista. É presente. A ética profissional na era da IA deve enfrentar deveres de revisão, limites de automação, proteção do sigilo, uso de dados de clientes, transparência em determinadas situações e responsabilização por práticas abusivas. A advocacia não pode reivindicar protagonismo na transformação digital se não aceitar padrões mais sofisticados de responsabilidade.

O caso do prompt injection é um aviso estrutural. Ele mostra que a digitalização da Justiça não se resume a trocar papel por PDF, audiência presencial por videoconferência ou pesquisa manual por ferramenta generativa. Estamos entrando em uma fase em que o processo judicial passa a interagir com sistemas capazes de interpretar linguagem, resumir argumentos, organizar prioridades e sugerir caminhos.

Nesse novo ambiente, a integridade processual não depende apenas da lisura das partes e da independência do juiz. Depende também da segurança da infraestrutura algorítmica que começa a mediar parte da experiência judicial.

O advogado que entende IA apenas como ferramenta para “fazer petição mais rápido” está sendo superficial — e será facilmente substituído em breve. A IA é uma nova camada da arquitetura jurídica. Ela reorganiza incentivos, cria riscos inéditos, amplia capacidades e abre novas formas de abuso. O profissional que souber usar IA com técnica, governança e responsabilidade terá vantagem competitiva. O que usar como atalho preguiçoso ou instrumento de manipulação acabará produzindo prova contra si mesmo.

O Judiciário também terá que escolher. Não entre usar ou não usar IA, porque essa escolha já foi superada pela realidade. A escolha verdadeira é entre IA governada e IA invisível; entre eficiência com controle e automação informal; entre tecnologia subordinada ao devido processo legal e tecnologia operando como camada opaca de poder.

Prompt injection parece um detalhe técnico. Não é. É o primeiro sintoma visível de uma disputa maior: quem controlará a infraestrutura linguística da Justiça na era da inteligência artificial?

No século XX, proteger o processo significava preservar autos, provas, prazos, competências e imparcialidade. No século XXI, isso continuará sendo necessário, mas não será suficiente. Também será preciso proteger sistemas, dados, modelos, interfaces e comandos.

A Justiça não está apenas diante de novas ferramentas. Está diante de uma nova superfície de ataque. E, desta vez, o ataque pode vir escondido dentro da própria linguagem que o Direito sempre considerou seu principal instrumento.