Califórnia cria regras para uso de IA por advogados e árbitros

O governador da Califórnia, nos Estados Unidos, aprovou a SB 574, lei que estabelece regras para o uso de inteligência artificial generativa por advogados e árbitros no Estado. A norma proíbe a delegação da prática da advocacia e do processo decisório arbitral à tecnologia e cria deveres de verificação, confidencialidade e transparência para seu uso na atividade jurídica.

A medida, de autoria do senador Thomas Umberg, foi aprovada pelo governador em 30 de setembro e protocolada na Secretaria de Estado da Califórnia na mesma data, passando a constar como Chapter 858.

Entre as mudanças, a legislação acrescenta dispositivo ao Business and Professions Code para estabelecer obrigações aos advogados que utilizarem IA generativa como ferramenta de auxílio profissional.

A norma deixa expresso que o profissional não pode delegar a prática da advocacia à tecnologia e mantém seus deveres de competência e diligência.

Conferência de informações

Advogados que utilizarem IA generativa deverão tomar medidas razoáveis para verificar a precisão das respostas produzidas pelos sistemas, inclusive de citações de decisões judiciais e dispositivos legais.

Também deverão corrigir informações erradas ou "alucinadas" presentes nos materiais que utilizarem.

Outra mudança determina que petições, memoriais, requerimentos ou outros documentos apresentados à Justiça não poderão conter citações que não tenham sido pessoalmente verificadas pelo advogado responsável. A exigência abrange expressamente referências fornecidas por ferramentas de IA generativa.

A legislação não estabelece multa fixa ou penalidade automática especificamente para erros produzidos por IA. Eventuais violações estão submetidas ao regime de sanções aplicável aos documentos apresentados ao Judiciário, que permite medidas contra advogados, escritórios ou partes responsáveis, observados os procedimentos previstos na legislação.

Uso de dados

A SB 574 também estabelece limites para o compartilhamento de informações com sistemas de inteligência artificial.

O advogado não poderá inserir informações confidenciais, dados pessoais identificáveis ou outras informações não públicas em sistemas nos quais o acesso ao conteúdo não esteja restrito ao próprio profissional e às pessoas por ele autorizadas e submetidas a deveres de confidencialidade.

Entre as informações abrangidas estão dados financeiros, médicos ou psiquiátricos, números de contas, endereços e telefones de partes, vítimas, testemunhas e integrantes do Judiciário, além de conteúdos protegidos por sigilo.

Informação ao tribunal

A lei determina ainda que o advogado informe ao tribunal o uso de IA generativa em documentos apresentados à Corte.

Quando a tecnologia for utilizada para produzir conteúdo destinado ao público, o profissional deverá considerar se também deve informar que recorreu à ferramenta.

Para os fins da legislação, IA generativa é definida como sistema capaz de produzir conteúdo sintético derivado, incluindo textos, imagens, vídeos e áudios, a partir das estruturas e características dos dados utilizados em seu treinamento.

Regras para árbitros

A norma também disciplina o uso da tecnologia na arbitragem.

Árbitros ficam proibidos de delegar qualquer parte do processo decisório a ferramentas de IA generativa. Também não poderão se basear em informações produzidas pela tecnologia e que estejam fora dos autos sem comunicar previamente as partes e, na medida do possível, permitir que elas se manifestem sobre o uso do conteúdo.

A legislação ressalva que permanecem os deveres de neutralidade, competência e diligência dos árbitros.