Inteligência artificial e integridade processual: Os desafios jurídicos da prompt injection

A chamada “prompt injection”, também denominada “prompt infection”, consiste na inserção deliberada de comandos ocultos, instruções maliciosas ou elementos invisíveis em documentos, imagens ou arquivos digitais com o objetivo de manipular sistemas de inteligência artificial, alterar interpretações automatizadas ou induzir respostas específicas.

Embora o debate tenha surgido inicialmente no contexto da segurança da informação e da IA generativa, a prática passou a ganhar especial relevância jurídica diante da crescente utilização de ferramentas de inteligência artificial por escritórios de advocacia, departamentos jurídicos e até mesmo pelo próprio Poder Judiciário.

Importante destacar que a prática não se limita à inserção de textos ocultos em cor branca sobre fundo branco (forma mais conhecida e rudimentar da técnica). Atualmente, existem modalidades significativamente mais sofisticadas de ocultação de comandos e informações, dentre elas:

Na prática, o objetivo é induzir sistemas de IA a interpretar comandos que não são perceptíveis ao usuário comum, direcionando respostas, análises ou interpretações em benefício de determinada parte.

Sob a perspectiva jurídica, trata-se de conduta potencialmente incompatível com os deveres éticos e processuais que regem a atividade jurisdicional. A utilização de mecanismos ocultos para influenciar análises automatizadas afronta princípios fundamentais do processo civil, dentre eles: boa-fé e lealdade processual; cooperação entre as partes; dever de veracidade; e vedação ao comportamento processual abusivo.

A depender das circunstâncias concretas, a prática pode caracterizar litigância de má-fé, tentativa de indução indevida do julgador, manipulação probatória ou até mesmo fraude processual.

O Poder Judiciário brasileiro já vem demonstrando postura progressivamente mais rigorosa em relação ao uso abusivo de inteligência artificial no contencioso. Tribunais e órgãos de controle passaram a adotar mecanismos de verificação de integridade documental, análise de metadados e identificação de elementos ocultos em arquivos digitais.

Inclusive, já existem ocorrências registradas em processos judiciais, como nos autos 0818628-36.2025.8.15.0001 e 0855288-13.2025.8.12.0001, o que evidencia que o tema deixou de ser uma preocupação meramente teórica para se tornar uma questão concreta de integridade processual e segurança jurídica.

Do ponto de vista ético-profissional, a utilização da inteligência artificial na advocacia é legítima, necessária e irreversível. A tecnologia representa importante instrumento de eficiência, produtividade e aprimoramento técnico da atividade jurídica.

Contudo, sua adoção deve observar limites legais, éticos e de governança, não podendo ser utilizada como mecanismo de manipulação oculta do processo ou de violação da confiança que sustenta a função jurisdicional.

A utilização de inteligência artificial já integra a realidade dos escritórios, departamentos jurídicos e do próprio Poder Judiciário, razão pela qual o debate não deve mais se concentrar na adoção ou não da tecnologia, mas sim na forma ética, transparente e responsável de sua utilização.

O crescimento de práticas abusivas envolvendo IA reforça a necessidade de atuação conjunta entre inovação tecnológica, compliance processual e integridade institucional, reafirmando o compromisso das empresas com o desenvolvimento responsável da tecnologia aplicada ao Direito e com o combate a condutas que comprometam a boa-fé e a regularidade da atividade jurisdicional.