Advogado pede e conselheiro do CNMP orienta riscos do uso do ChatGPT

Após pedido de advogado, o conselheiro Rodrigo Badaró, do CNMP, sugeriu a membros que observem riscos inerentes à utilização de ferramentas tecnológicas não adotadas oficialmente pelos órgãos estatais e cuja utilização implique no lançamento de informações processuais sensíveis, sigilosas ou pessoais, em banco de dados privado.

O pedido, do mesmo advogado que acionou o CNJ e que foi multado pelo TSE, buscava a proibição do uso de inteligência artificial como o ChatGPT pelos membros do CNMP, mas o conselheiro considerou que a determinação invadiria a autonomia funcional dos membros do Conselho.

No caso, o advogado formulou pedido de providências para que o CNMP definisse regras que permitam aos juízes utilizar a Open AI apenas para fins lúdicos

Segundo o advogado, as regras devem preservar "validade e eficácia da norma constitucional que garante aos cidadãos brasileiros o direito de ver seus processos apreciados por membros do MP competentes para seus casos", o que, de acordo com ele, "exclui a transferência desse poder/dever conferido aos membros do MP para a Open AI".

Assim, requereu tutela de urgência para proibir os promotores e procuradores brasileiros de recorrer ao ChatGTP para elaborar ou fundamentar denúncias, pedidos de arquivamento e outras manifestações nos casos concretos em que atuam.

O conselheiro Rodrigo Badaró arquivou o feito em fevereiro deste ano. Ele considerou que caminhar no sentido da vedação do uso de ferramentas tecnológicas é um contrassenso aos tempos atuais vividos, em que as ferramentas tecnológicas devem servir de apoio à atuação humana.

"Desta forma, limitar as possibilidades de uso de instrumentos tecnológicos de suporte à atuação não se mostram de forma alguma exitosa, uma vez que, repita-se, elas não prescindem do necessário juízo de valor do humano que lhes faz uso, notadamente pela ausência de qualquer elemento que aponte a nocividade do uso deste tipo de tecnologia como suporte de produtividade."

O advogado interpôs recurso sustentando que a Open AI não é apenas mais uma fonte de informações e suas respostas têm o poder de convencer o interlocutor humano. "Se for utilizada por um membro do MP ela influenciará a atuação dele e isso é inadmissível, pois os cidadãos brasileiros têm o direito de ser processados apenas por seres humanos", disse.

Para o advogado, outro problema que não foi levado em conta pelo conselheiro é o destino das informações que eventualmente forem fornecidas a Open AI. "Elas serão armazenadas no banco de dados do ChatGTP. Portanto, ao utilizá-la o promotor violará seu dever de preservar o sigilo das informações a que tem acesso", argumentou.

Ao analisar o recurso, Badaró registrou que não comunga dos argumentos do advogado de que os membros do MP estão expostos ao risco de sofrerem influência intelectual por parte das inteligências artificiais, a ponto de comprometerem a qualidade de sua atuação.

Para o conselheiro, o único argumento do advogado que causou "preocupação concreta" foi a questão da possibilidade de lançamento de informações sensíveis, durante eventual utilização dos sistemas de inteligência artificial, em banco de dados privado.

Diante disso, considerou a necessidade de, em um primeiro momento, até obter maiores informações das áreas técnicas, alertar os membros, servidores e estagiários do Ministério Público a adotarem "cautela proativa no tocante ao tema".

"Inúmeras são as informações que figuram nos processos que circulam diariamente pelo Ministério Público, nas mais variadas áreas de competência, trazendo informações pessoais, sigilosas, sensíveis e/ou que envolvem a intimidade, a privacidade, a honra e a imagem das pessoas, inclusive de pessoas vulneráveis. Tal circunstância não pode ser ignorada por este órgão nacional de controle administrativo do Ministério Público brasileiro."

Por outro lado, considerou que não seria oportuno determinar aos membros do Ministério Público a proibição do uso de qualquer ferramenta tecnológica que eventualmente entendam necessária ao exercício de suas funções.

"Não é possível afirmar, neste momento, sem ouvir as áreas técnicas competentes, que a prerrogativa da independência funcional dos membros do Ministério Público deve ser liminarmente mitigada, ao argumento de que direitos fundamentais dos administrados estão sendo violados."

Assim, reconsiderou a decisão de arquivamento e decidiu dar ciência aos membros do MP acerca da existência do pedido de providências com sugestão, sem caráter impositivo.

Ele determinou que os membros orientem servidores e estagiários sob sua administração a observarem os riscos inerentes à utilização de ferramentas tecnológicas não adotadas oficialmente pelos órgãos estatais e cuja utilização implique no lançamento de informações processuais sensíveis, sigilosas ou pessoais em banco de dados privado.

Ainda, solicitou ao setor de tecnologia manifestação técnica acerca dos possíveis riscos da ferramenta e à assessoria do gabinete estudos complementares da matéria.

• Processo: Pedido de Providências 1.00085/2023-10

Veja a decisão.