X deve apagar respostas do Grok com informações falsas sobre advogado

A Justiça de São Paulo determinou que a plataforma X retire do ar respostas públicas produzidas pelo Grok que atribuíram falsamente a um advogado a existência de decisões judiciais e uma multa por litigância de má-fé em processo do qual ele nunca participou.

A liminar foi concedida pelo juiz de Direito Jorge Panserini, da 5ª vara Cível de São Carlos/SP, que fixou multa diária de R$ 1 mil, limitada inicialmente a R$ 30 mil.

Respostas publicadas no X

Segundo o processo, o advogado entrou com ação contra a X Brasil Internet após o Grok gerar, em resposta a uma consulta de um usuário, publicações com informações falsas e ofensivas sobre sua atuação profissional.

De acordo com a ação, o conteúdo afirmava que ele teria perdido um processo em razão de uma “estratégia fraca” e também lhe atribuía a apresentação de 43 decisões judiciais inexistentes produzidas por inteligência artificial, além de multa por litigância de má-fé em ação da qual jamais participou.

O advogado apresentou relatório técnico com registros das publicações e pediu a retirada do conteúdo, retratação pública e indenização por danos morais.

(Imagem: Gerada por IA)

Juiz determinou que a X remova respostas do Grok que, segundo a ação, continham informações falsas sobre um advogado.(Imagem: Gerada por IA)

Responsabilidade da plataforma

Ao analisar o pedido, o juiz afirmou que o caso deve seguir o entendimento firmado pelo STF no Tema 987, que trata da responsabilidade das plataformas por conteúdos publicados na internet.

Segundo o magistrado, conteúdos que atingem a honra normalmente dependem de ordem judicial para serem removidos. No entanto, quando a divulgação ocorre por meio de mecanismo artificial, como uma ferramenta de inteligência artificial, pode haver responsabilidade da plataforma e retirada urgente do material.

Indícios de falsidade

Para o juiz, os documentos apresentados indicam que as respostas do Grok trataram informações sem comprovação como se fossem fatos.

"A probabilidade do direito decorre da prova documental, consistente em captura técnica certificada das respostas atribuídas à ferramenta 'Grok', nas quais se afirmam, como fatos e não como mera opinião, condutas desonrosas atribuídas à pessoa identificável, com remissão a supostas fontes que as confirmariam, somadas a incoerências internas do próprio conteúdo e à negativa do autor de qualquer atuação no processo referido."

O magistrado também considerou que a permanência das publicações poderia ampliar o dano, já que "o material permanece acessível ao público, sujeito à indexação, compartilhamento e contínua disseminação, com lesão que se renova enquanto disponível e de difícil reparação posterior".

Com isso, o juiz determinou que a X retire do ar, em até 48 horas, as duas respostas indicadas no processo. Em caso de descumprimento, a empresa poderá pagar multa diária de R$ 1 mil, limitada inicialmente a R$ 30 mil.