"Gol com a mão": Ministro alerta sobre IA e TST multa por precedentes inventados

A SDI-1 do TST elevou para 10% multa por litigância de má-fé após identificar precedentes judiciais inexistentes apresentados em recurso de embargos.

Durante julgamento realizado nesta quinta-feira, 15, os ministros criticaram a utilização de jurisprudência inventada para fundamentar recursos e alertaram para a responsabilidade no uso de inteligência artificial.

Ministro Antônio Fabrício de Matos Gonçalves comparou a prática a uma partida de futebol em que um jogador segue as regras, enquanto outro tenta marcar um gol com as mãos.

O colegiado também determinou o envio do caso ao Conselho Federal e à seccional de origem da OAB, além de encaminhar os autos a uma comissão interna do TST para apurar eventual utilização de prompt injection.

Precedentes inventados

Relator, ministro Breno Medeiros, apontou que todos os precedentes apresentados no recurso de embargos eram inexistentes, embora a parte tenha posteriormente apresentado julgados válidos em agravo.

O ministro ressaltou a gravidade da conduta, mas ponderou que não seria possível afirmar se os conteúdos foram produzidos por inteligência artificial.

Durante a discussão, Fabrício Gonçalves relatou que a 6ª turma do TST já havia enfrentado episódios semelhantes, incluindo a apresentação de súmulas, orientações jurisprudenciais e decisões inexistentes atribuídas a ministros da Corte.

Segundo Fabrício, a prática não pode ser automaticamente atribuída à inteligência artificial, pois a criação de jurisprudência fictícia já ocorria antes do surgimento dessas ferramentas.

Advocacia séria

O ministro também destacou a diferença entre profissionais que pesquisam precedentes autênticos para fundamentar seus recursos e aqueles que apresentam julgados inventados para tentar induzir a Corte a erro.

"Enquanto a advocacia é séria, pesquisa e procura uma jurisprudência íntegra para poder fazer com que seu recurso seja conhecido, algumas outras pessoas, não encontrando, criam jurisprudências para induzir esta corte."

Para ilustrar a situação, comparou a conduta a uma partida de futebol em que um jogador respeita as regras enquanto outro utiliza as mãos para marcar um gol.

"É como se alguém estivesse jogando futebol com os pés e o outro jogando com a mão e querendo que o gol valesse arremessando essa bola dentro da rede."

Uso da inteligência artificial

Ao abordar os riscos da tecnologia, Fabrício ressaltou que o problema não está no uso da inteligência artificial, mas na ausência de conferência das informações apresentadas ao Judiciário.

"Obviamente, presidente, ninguém aqui é contra a tecnologia nem o uso de inteligência artificial, porém, se utilizar, que fiscalize, que confira e veja se são íntegras."

Presidente da sessão, ministro Luiz Philippe Vieira de Mello Filho concordou e mencionou o sistema Galileu, utilizado no âmbito da Justiça do Trabalho, para destacar a importância da validação humana dos atos e da prevenção das chamadas alucinações de IA, quando a ferramenta produz informações incorretas ou inexistentes.

Suspeita de prompt injection

Vieira de Mello também informou que o TST instituiu uma comissão para analisar casos relacionados à litigância predatória e à utilização de prompt injection em processos judiciais.

Diante das irregularidades identificadas, determinou o encaminhamento dos autos para avaliação técnica, a fim de verificar eventual utilização dessa prática, que consiste na inserção de instruções destinadas a manipular o comportamento de sistemas de inteligência artificial.

O ministro ressaltou a necessidade de distinguir a apresentação de precedentes inventados de eventual tentativa de manipular ferramentas de IA para influenciar atos processuais conforme o interesse da parte.

Segundo Vieira de Mello, a identificação da conduta e de sua intencionalidade pode gerar consequências distintas. Por isso, a comissão deverá produzir parecer técnico sobre o ocorrido, também para subsidiar a atuação dos órgãos de ética da OAB.

Punição rigorosa

Durante os debates, ministro Alexandre Luiz Ramos defendeu uma sanção mais rigorosa, diante da gravidade de inventar precedentes para demonstrar divergência jurisprudencial, requisito de admissibilidade dos embargos.

Ministro Evandro Valadão também alertou para a recorrência da prática e relatou outro caso, ainda a ser julgado, em que foram apresentados cinco precedentes inexistentes.

Alberto Bastos Balazeiro levantou a hipótese de dolo eventual, enquanto Margareth Rodrigues Costa ponderou sobre possível enquadramento como ato atentatório à dignidade da Justiça.

Vieira de Mello, contudo, considerou prematuro avançar nessas qualificações sem aprofundar a análise da intencionalidade.

Ao final, prevaleceu o voto do relator, ministro Breno Medeiros, com os ajustes definidos durante a sessão. Ficou parcialmente vencido o ministro Evandro Valadão, que defendia multa de 9%.

• Processo: 0100312-15.2023.5.01.0522