De acordo com a notícia institucional divulgada pela Justiça Federal da 2ª Região, o magistrado participou de painel dedicado às transformações provocadas pela inteligência artificial no Judiciário e a questões relacionadas ao sistema processual eletrônico utilizado no Tribunal de Justiça do Rio de Janeiro (TJRJ) e no TRF2. A exposição foi realizada na 6ª edição do evento de tecnologia e inovação.

Comandos ocultos em documentos processuais

Na explicação apresentada pelo presidente do TRF2, o prompt injection consiste na inclusão maliciosa de comandos em documentos processuais, de modo a tentar alterar a resposta ou o comportamento de um sistema de inteligência artificial. Conforme relatado pela instituição, a finalidade da prática poderia ser, por exemplo, levar a ferramenta a desconsiderar argumentos ou a privilegiar determinada linha de defesa.

O ponto tem relevância prática à medida que sistemas de IA passam a ser empregados para apoiar a análise de informações processuais e a elaboração de minutas. Nessa hipótese, a segurança não se limita à proteção dos sistemas contra acessos indevidos: também envolve a confiabilidade do conteúdo documental que será processado pela ferramenta.

O magistrado afirmou que a expansão das atividades digitais demanda discussão jurídica compatível com a velocidade das mudanças tecnológicas. Segundo a notícia, ele observou que a estrutura normativa foi concebida em contexto anterior à atual digitalização das relações e dos procedimentos, o que pode exigir novas interpretações do Direito.

Debate sobre eventual resposta penal

A fonte informa que, na avaliação exposta pelo desembargador, a legislação brasileira ainda não contém previsão penal especificamente voltada ao prompt injection. Foi mencionada a existência de entendimento doutrinário que considera possível examinar esse tipo de conduta à luz do crime de fraude processual, previsto no artigo 347 do Código Penal.

Essa referência, contudo, foi apresentada no contexto de debate sobre desafios jurídicos emergentes e não corresponde a uma decisão do TRF2, à fixação de tese judicial ou à definição de enquadramento aplicável a um caso concreto. A notícia também atribui ao presidente da Corte a defesa de uma resposta mais rigorosa a práticas fraudulentas voltadas a influenciar sistemas de inteligência artificial empregados no ambiente judicial.

O debate evidencia uma controvérsia ainda aberta: a identificação de comandos ocultos em peça processual pode suscitar discussões sobre a intenção de quem os inseriu, a efetiva capacidade de interferência no sistema utilizado e a adequação das normas já existentes para eventual responsabilização. O material divulgado não informa a ocorrência de investigação, processo ou julgamento específico relacionado a essa prática.

Camadas de prevenção na plataforma Apoia

Durante o painel, o presidente do TRF2 apresentou as medidas de proteção adotadas na plataforma Apoia, sistema de inteligência artificial generativa desenvolvido pelo tribunal. Segundo a Justiça Federal da 2ª Região, a ferramenta foi incorporada à Plataforma Digital do Poder Judiciário (PDPJ) pelo Conselho Nacional de Justiça (CNJ).

Conforme a descrição institucional, o modelo de prevenção é organizado em três etapas:

  • na extração das informações processuais, a partir do Codex, sistema nacional utilizado para consolidação de dados processuais, com uso de reconhecimento óptico de caracteres para remover conteúdos invisíveis maliciosos;
  • na análise automatizada do material, com interrupção do processamento diante da identificação de comandos ocultos ou outras anomalias e sinalização do trecho para avaliação;
  • na exigência de revisão humana antes da geração de minutas, preservando ao julgador a decisão sobre os pedidos apresentados no processo.

A validação humana aparece, assim, como elemento central do fluxo descrito pelo TRF2. A instituição afirma que a palavra final sobre o acolhimento ou a rejeição de pretensões processuais continua sob responsabilidade do magistrado, mesmo quando a inteligência artificial é utilizada como instrumento de apoio.

O painel foi mediado pelo procurador do Estado do Rio de Janeiro e secretário estadual da Casa Civil, Flávio Willeman, e contou com representantes do TJRJ, da OAB-RJ e da organização do evento, segundo a divulgação oficial.

Fonte: TRF2