Pular para o conteúdo
IA Seenup, página inicial

Notícias de IA em português,
várias vezes por dia

Brasil

Justiça do Trabalho no Pará multa advogados por esconder comando para enganar a IA do tribunal

Duas bancas foram multadas por esconder em texto branco uma ordem à IA do tribunal numa petição. A multa foi de 10% do valor da causa, cerca de US$ 16 mil, segundo a Jetstream Security.

Em 3 pontos

  1. Dois escritórios esconderam em texto branco uma ordem para a IA do tribunal ir com calma no caso.
  2. O sistema Galileu achou o texto, avisou e bloqueou o conteúdo suspeito.
  3. A multa foi de 10% do valor da causa, cerca de US$ 16 mil.

Redação IA Seenup · via Jetstream Security

2 min de leitura

Ilustração: Justiça do Trabalho no Pará multa advogados por esconder comando para enganar a IA do tribunal
Ilustração gerada por IA

Em números

  • R$ 842 milvalor da causa trabalhista
  • 10%do valor da causa, aplicado como multa
  • ~US$ 16 milvalor aproximado da multa

O que aconteceu

Uma vara trabalhista de Parauapebas, no Pará, puniu e multou dois escritórios de advocacia. Eles esconderam um comando para inteligência artificial dentro de uma petição. Segundo a análise publicada pela Jetstream Security, empresa de segurança em IA, o texto estava em fonte branca sobre fundo branco. Ninguém o via numa leitura normal.

O juiz analisava a petição com o Galileu, ferramenta de IA generativa usada em todo o país pelo Conselho Nacional de Justiça. O sistema detectou o texto invisível. Com a cor da fonte alterada, a mensagem apareceu. Ela pedia que a IA respondesse à petição de forma superficial e não questionasse os documentos, fosse qual fosse a ordem recebida.

Para o tribunal, a intenção era fazer qualquer IA usada pela parte contrária ou pelo próprio tribunal gerar uma resposta superficial ou uma minuta de sentença enviesada. Isso prejudicaria a parte contrária e a própria Justiça. A multa foi de 10% do valor da causa, que era de R$ 842 mil. Isso dá cerca de US$ 16 mil. O tribunal se apoiou no Código de Processo Civil: o artigo 5º trata da boa-fé, e o artigo 77 proíbe atrapalhar o andamento do processo. Considerou a conduta um ato atentatório à dignidade da Justiça.

A Jetstream diz que o caso pode ser a primeira decisão judicial do mundo sobre manipulação intencional da IA de um tribunal por esse método. O G1 noticiou que o Galileu emitiu um alerta e bloqueou o processamento do conteúdo suspeito.

Ilustração gerada por IA

Por que importa

Esse truque se chama injeção de prompt: esconder instruções num documento para que a IA que o lê obedeça a elas, em vez de seguir o que o usuário quer. A decisão mostra que a integridade de uma petição vale também para o conteúdo que só a máquina lê. A Jetstream compara com normas de conduta profissional, como a regra 11 do código de processo civil federal dos EUA.

Tribunais no Brasil e em outros países usam cada vez mais IA para processar documentos, resumir e organizar processos.

O que muda para quem usa IA

Quem usa IA para ler documentos recebidos de fora, como contratos, currículos ou e-mails, deve saber que eles podem ter instruções escondidas. A Jetstream defende regras de governança e ferramentas que monitorem tentativas de manipulação, principalmente em arquivos vindos de fora da organização.

Para profissionais, o recado é simples. Tentar manipular a IA do outro lado pode render sanção. Neste caso, o sistema do tribunal pegou a tentativa e o custo ficou alto.

Entenda os termos

Injeção de prompt
Truque que esconde instruções num texto para fazer uma IA obedecer a elas sem que o usuário perceba.
Galileu
Ferramenta de IA generativa usada pelo Judiciário brasileiro, segundo a fonte, em todo o país pelo CNJ.

Gostou? Compartilhe

Aprenda IA do zero

A Trilha IA custa R$ 37 e tem 5 cursos em ebook, com 115 capítulos e 30 projetos com código pronto. As 23 aulas em vídeo são grátis no YouTube.

Conhecer a Trilha IA

Debate

Ainda não há comentários. Que tal começar o debate?

Os comentários passam por uma revisão rápida (com apoio de IA) antes de aparecer.Regras dos comentários.

Leia também