Tentativas de manipulação de sistemas de inteligência artificial no Judiciário, como os casos de prompt injection identificados em petições, devem ser tratadas como "caso de polícia". Assim afirmou o vice-presidente do STJ, ministro Luis Felipe Salomão.
Em entrevista ao Migalhas durante o XIV Fórum de Lisboa, o ministro destacou que o avanço das ferramentas tecnológicas, especialmente da IA, traz novas questões ao sistema de Justiça, que precisam ser enfrentadas com rigor quando ultrapassam o campo ético.
"Auando a IA é má utilizada, com má-fé, que transborda a questão puramente ética, isso é caso de polícia, que tem que ser averiguado tanto no plano administrativo quanto criminal."
Veja a entrevista:
O ministro observou que as chamadas injeções de prompt foram a forma mais visível de um problema que, segundo ele, “não é tão novo” e já vinha ocorrendo de forma pontual. Para Salomão, os tribunais precisarão acompanhar a evolução das técnicas de manipulação e aperfeiçoar seus sistemas de IA para criar barreiras contra esse tipo de tentativa.
No caso do STJ, o ministro afirmou que o sistema Logos, sistema de inteligência artificial generativa desenvolvido pela Corte, já trabalha com mecanismos de defesa, identificação de fraudes e detecção de problemas.
Para Salomão, a apuração e a punição adequada dos responsáveis podem funcionar como mecanismo de prevenção. "Se nós apurarmos adequadamente e punirmos adequadamente, a tendência é evitar que isso aconteça no futuro."
Apuração
A fala do ministro ocorre após o STJ informar que investigará tentativas de uso de prompt injection em petições do acervo processual. A técnica consiste na inserção de comandos ocultos em documentos com o objetivo de interferir no funcionamento de sistemas de inteligência artificial.
Segundo a Corte, as ocorrências foram identificadas nas últimas semanas e neutralizadas pelas camadas de segurança do Tribunal.
Na ocasião, o presidente do STJ, ministro Herman Benjamin, afirmou que os casos serão mapeados para permitir a aplicação de sanções processuais e a apuração de responsabilidade administrativa e criminal dos envolvidos.