A ausência de lei específica sobre inteligência artificial tem levado o Judiciário a suprir, caso a caso, o vácuo normativo. A recente liminar da Justiça de São Paulo, que vedou a utilização de conteúdo jornalístico para o treinamento do sistema de IA da Meta, sobre a qual tive a oportunidade de escrever recentemente, ilustra bem o cenário. O PL 2.338/23, que pretende instituir o Marco Legal da Inteligência Artificial, foi elaborado por comissão de juristas, aprovado pelo Senado Federal no fim de 2024 e aguarda parecer da Comissão Especial na Câmara dos Deputados. O relator, deputado Aguinaldo Ribeiro, manifestou há alguns dias a intenção de submetê-lo a votação ainda neste ano de 2026. Em nossa opinião, e com a cautela própria de um projeto ainda em tramitação, vale observar o que o texto contempla e o que poderia merecer mais atenção do legislador.
Fazendo um paralelo entre o Brasil e a União Europeia, a estrutura do PL da Inteligência Artificial aproxima-se sensivelmente da adotada pelo AI Act (Artificial Intelligence Act), o regulamento europeu sobre o tema. Não é a primeira vez que isso acontece. A LGPD foi inspirada no GDPR, o regulamento europeu de proteção de dados, e o Marco Civil da Internet tem como correspondente europeu o DSA - Digital Services Act, que é bem mais detalhado, pois suas regras de governança, gestão de riscos e compliance, o chamado GRC (governança, riscos e compliance), são muito mais minuciosas do que as da lei brasileira. O AI Act classifica os sistemas de inteligência artificial por nível de risco. São considerados de risco elevado, por exemplo, os sistemas que afetam a segurança ou os direitos fundamentais, como os empregados nas áreas de educação, emprego, serviços públicos e aplicação da lei, e são vedadas práticas como a manipulação de grupos vulneráveis, a pontuação social e a identificação biométrica em tempo real em espaços públicos, ressalvadas hipóteses restritas de exceção. O projeto brasileiro, semelhantemente, adota a lógica de classificação por risco, segundo a qual o regime jurídico aplicável decorre da finalidade do uso e não da mera utilização da tecnologia, e assegura à pessoa afetada por um sistema de alto risco o direito de obter explicação sobre a decisão tomada pelo sistema, de contestá-la e de pedir a revisão por um ser humano. Cumpre observar, contudo, que a União Europeia dispõe de estrutura de governança consolidada, com um Gabinete de IA, um Conselho Europeu de IA e autoridades nacionais independentes, o que recomenda ao Brasil adaptar o modelo à sua realidade institucional, e não simplesmente reproduzi-lo. Da forma como está hoje, o projeto brasileiro atribui à ANPD a coordenação do SIA - Sistema Nacional de Regulação e Governança de Inteligência Artificial, e o desenho final desse arranjo segue em discussão na Câmara.
Infere-se da análise do projeto que o que se pretende é que a lei venha a desempenhar a função essencial de definir o que é obrigatório. Na ausência de parâmetros legais, cada empresa decide por conta própria o grau de transparência, de auditoria e de proteção que adota, o que gera insegurança jurídica e desigualdade concorrencial entre os agentes que se esforçam e os que não o fazem. A definição de um patamar mínimo confere previsibilidade. O cumprimento do mínimo legal, contudo, não esgota as possibilidades. A empresa que adota práticas superiores às exigidas, com transparência quanto ao treinamento de seus modelos, relatórios de impacto, canais de contestação e um programa efetivo de GRC aplicado à inteligência artificial, constrói diferencial reputacional perante a sociedade, cada vez mais atenta aos riscos de desinformação, de vieses algorítmicos e de uso indevido de dados. Inclusive, isto já consta previsto no projeto, segundo o qual a adesão voluntária a código de boas práticas e a elaboração de medidas de governança podem ser consideradas indicativo de boa-fé, e que inclui, dentre os critérios para a aplicação das sanções administrativas, a adoção de mecanismos internos de mitigação de riscos, de análise de impacto algorítmico, de código de ética e de política de boas práticas e governança. Cumpre notar, por outro lado, que o projeto remete a regulamentos posteriores, a cargo da ANPD e das autoridades setoriais, a definição de diversos parâmetros técnicos, como as listas de sistemas de alto risco e os critérios das avaliações de impacto algorítmico. Trata-se de solução adequada à velocidade da evolução tecnológica, desde que o núcleo de direitos permaneça fixado em lei.
No tocante ao meio ambiente, o projeto brasileiro é mais presente do que se poderia supor, mas, mesmo assim, parece ser ainda insuficiente. A proteção ao meio ambiente é fundamento da lei e o desenvolvimento sustentável é princípio. Os desenvolvedores de sistemas de propósito geral e generativos com risco sistêmico devem concebê-los de modo a reduzir o uso de energia, de recursos e a produção de resíduos, e o texto prevê o incentivo a centros de dados sustentáveis e a programas de certificação para reduzir o impacto ambiental da IA. O AI Act foi mais específico em um ponto. Os fornecedores de modelos de uso geral devem documentar o consumo energético conhecido ou estimado do modelo, podendo estimá-lo com base nos recursos computacionais empregados quando ele for desconhecido. Trata-se, todavia, de dever de documentação, e não de limite de consumo, e a página do Parlamento Europeu indica que a IA deve ser respeitadora do ambiente, sem detalhar medidas ambientais concretas. Em ambos os casos, o treinamento e a operação de modelos de grande porte demandam centros de dados de elevado consumo de energia e de água, e não se identifica no projeto brasileiro um dever claro de transparência quanto ao consumo de energia e de água e à origem da matriz elétrica, tema de particular relevância para um país que pretende atrair centros de dados e dispõe de matriz relativamente limpa.
Os direitos autorais e os direitos da personalidade reclamam atenção ainda maior. A lei 9.610/98 já protege o autor contra o uso não autorizado de sua obra, e a Constituição Federal e o CC tutelam a imagem, a voz, o nome e a honra. O projeto avança ao exigir a publicação de sumário dos conteúdos protegidos utilizados no desenvolvimento dos sistemas, ao permitir que o titular proíba o uso e ao prever remuneração, negociada coletiva ou diretamente. O desafio consiste em tornar esses direitos efetivamente exercíveis, pois o sumário depende de regulamento e é limitado pelos segredos comercial e industrial, e acordos diretos entre partes em posição tão assimétrica e, muitas vezes, até mesmo em jurisdições de diferentes países, como um jornalista individual e uma grande empresa de tecnologia, correm o risco de permanecer meramente formais. Na Europa, a IA generativa deve divulgar que o conteúdo foi gerado por inteligência artificial, ser concebida de modo a impedir a geração de conteúdos ilegais e publicar resumos dos dados protegidos por direitos de autor utilizados no treinamento, e imagens, áudios e vídeos gerados ou alterados por IA, incluindo deepfakes, devem ser claramente rotulados. O regulamento europeu distingue, ainda, o dever do fornecedor de assegurar que as saídas sejam marcadas como artificialmente geradas e o dever de quem utiliza o sistema de divulgar o conteúdo que constitua deepfake. Recente emenda ao AI Act acrescentou, ainda, proibição específica contra deepfakes de conteúdo íntimo. No Brasil, o projeto limita-se a determinar que o uso de imagem, áudio, voz e vídeo de pessoas respeite os direitos da personalidade, na forma do CC, e prevê identificador de conteúdo sintético, a depender de regulamento. Seria oportuno prever, de modo expresso, o consentimento para o uso de voz e imagem, inclusive de pessoas falecidas, a rotulagem ao público de conteúdo sintético e a responsabilização clara de quem desenvolve e de quem difunde. O STF, ao reexaminar em 2025 a responsabilidade das plataformas à luz do Marco Civil da Internet, sinalizou que a omissão diante de conteúdo ilícito acarreta consequências e impõe o dever de cuidado, raciocínio que tende a alcançar a IA generativa.
Por fim, uma lei de inteligência artificial deve voltar-se também ao ser humano que utiliza a tecnologia. Não basta proteger dados e obras se permanecem sem tratamento a dependência de interações automatizadas, a difusão de informações incorretas apresentadas com aparência de certeza e a acomodação intelectual de quem deixa de pensar, pesquisar e se esforçar por delegar tudo à máquina. Tais riscos não se resolvem apenas com sanções, mas com transparência quanto aos limites dos sistemas, educação digital, deveres reforçados nos produtos destinados a crianças e adolescentes e uma cultura de GRC nas organizações que desenvolvem e utilizam a tecnologia. Não existe texto legislativo ideal, e sim o texto possível, produto da negociação política. Que o Congresso Nacional logre aprovar um marco que defina com clareza as obrigações, valorize quem vai além do mínimo exigido e não relegue a proteção da pessoa humana e do meio ambiente a uma etapa futura.