Em junho de 2026, um dos modelos mais avançados da linha Claude, da Anthropic, deixou de funcionar para todos os usuários, em todos os países, depois que o governo dos Estados Unidos expediu uma ordem de controle de exportação. A própria empresa optou por desligar o acesso globalmente para garantir conformidade, já que separar usuários por nacionalidade em tempo real se mostrou inviável. O episódio expôs, em poucas horas, algo desconfortável: nem as companhias que desenvolvem essa tecnologia, nem os governos que a disputam, nem os reguladores que pretendem discipliná-la dominam aquilo que a IA é capaz de provocar.
É nesse cenário que o Brasil discute o PL 2.338/23, hoje em tramitação após aprovação no Senado. O projeto importa a lógica europeia de regulação por níveis de risco: veda usos de risco excessivo, impõe deveres de governança aos sistemas de alto risco, trata de responsabilidade civil e de sanções administrativas e desenha um sistema nacional coordenado pela autoridade de proteção de dados (ANPD). A ambição transparece na extensão um arcabouço horizontal que pretende alcançar quase tudo o que se faça com a tecnologia.
Há um dilema conhecido por trás dessa pretensão, formulado por David Collingridge: quando uma tecnologia é jovem, controlá-la é simples, mas pouco se sabe sobre seus efeitos; quando finalmente se sabe o bastante, o controle já se tornou caro e difícil. Regular IA agora é, em larga medida, regular o desconhecido. Isso não condena a regulação em si, apenas desloca a pergunta certa, que não é quando regular, e sim como.
E é no como que o projeto tropeça. O ponto não é a precipitação temporal, mas a arquitetura. Trata-se de uma lei-moldura que transfere o conteúdo essencial da norma - o que obriga, o que pune e quem pode entrar no mercado - para atos infralegais de uma agência subordinada à direção do governo (ANPD). Princípios genéricos, que deveriam apenas orientar, passam a funcionar como gatilho de classificação de risco e de sanção. O que serviria de bússola termina restringindo direito e aplicando multa, sem passar pela lei.
Basta observar a frequência com que o texto remete ao que será definido nos "termos de regulamento". O conteúdo real da norma fica suspenso, à espera de atos futuros. Um desenvolvedor ou um aplicador não tem como saber, hoje, as obrigações que o vincularão amanhã. A insegurança jurídica deixa de ser efeito colateral e vira modo de funcionamento.
No direito brasileiro, aquilo que restringe direito e aquilo que pune exigem base legal e tipicidade. O catálogo de vedações de risco excessivo do projeto - uma lista fechada, fixada pelo próprio legislador, que alcança armas autônomas, material de abuso sexual infantil e pontuação social pelo poder público - é justamente a forma correta: restrição prévia, sim, mas tipificada em lei. O vício está na categoria aberta de alto risco, cuja definição e cujas consequências são empurradas para o regulador. Mesma gravidade, legitimidade oposta.
O país tampouco parte do zero diante de danos. CDC, CC, lei Geral de Proteção de Dados e Marco Civil da Internet já oferecem reparação a quem é lesado, e essa é a regra para a imensa maioria das atividades. A proibição prévia é legítima, mas excepcional. Reserva-se ao risco grave e irreversível, e se faz por lei. Exige-se habilitação e inspeção antes de alguém dirigir precisamente porque certos danos não se desfazem, e isso se estabelece em norma legal, não na leitura mutável de uma autoridade, no caso mais uma agência reguladora - ANPD. Ninguém recebe licença irrestrita. Quem causa prejuízo, indeniza. Mas não se restringe o que ainda não se consegue descrever.
O episódio de junho revela ainda outra coisa importante: mesmo para quem opera na fronteira da tecnologia, tudo aquilo foi inédito. Não havia manual, precedente ou protocolo. Tanto a resposta do Estado quanto a decisão da empresa de tirar o modelo do ar foram improvisadas, de um dia para o outro, diante de um risco que ninguém havia antecipado. O que se chamou de solução foi, na verdade, reação às pressas, e não regra pensada para a situação. Se os próprios criadores da tecnologia e o Estado mais poderoso do mundo navegam esse terreno no susto, pretender fixar hoje, em lei, os parâmetros do que é seguro, perigoso ou proibido é legislar sobre um chão que se move sob os pés.
No plano interno, a engenharia que se pretende aplicar à IA já tem ensaio recente. A legislação de proteção de crianças no ambiente digital proíbe a simples autodeclaração de idade e exige verificação confiável, mas não diz como - o método foi delegado a regras futuras da autoridade de proteção de dados, enquanto multas capazes de alcançar dezenas de milhões de reais, ou um percentual do faturamento, já pairam sobre as empresas. Determina-se o resultado, delega-se o método e pune-se no intervalo. E a IA seria coordenada por essa mesma autoridade, no caso a ANPD.
A delegação indefinida produz, ainda, um efeito econômico previsível. Custo de conformidade e incerteza são barreiras que as grandes empresas absorvem e os entrantes não. A teoria da captura regulatória há muito adverte que a norma pode terminar a serviço dos incumbentes, e o projeto reforça esse risco ao remeter a regras posteriores os próprios regimes diferenciados para pequenas empresas e startups. O alívio destinado a quem está começando depende de normas que ainda não existem, e a indefinição se converte na barreira que sufoca o desenvolvimento.
O melhor argumento a favor do projeto é real e merece resposta direta. Os danos da IA podem ser opacos e irreversíveis; o cidadão comum não tem como auditar um sistema; grupos vulneráveis precisam de amparo; e a Europa erigiu um modelo abrangente de níveis de risco justamente para enfrentar esse quadro (a própria Europa já está revendo sua norma e simplificando a AI Act, por não ter previsto uma série de coisas que ocorrem nos dias de hoje). Esperar, dizem seus defensores, é deixar as pessoas desprotegidas.
A resposta não está em adiar, mas em mirar o alvo certo. As poucas hipóteses verdadeiramente críticas pedem tipificação legal e tratamento setorial, não um arcabouço horizontal cujo conteúdo é entregue à agência. Uma estrutura que concede poder discricionário amplo não protege melhor, concentra autoridade e multiplica incerteza. E o próprio modelo europeu que se pretende importar é hoje questionado em casa pelo preço que cobra da competitividade, de modo que o país copia o paradigma no momento em que ele é posto em dúvida.
Há ainda um ponto cego de consequências concretas. O projeto regula o uso doméstico como se o fornecimento estivesse assegurado, e o episódio de junho prova que não está. Um modelo pode desaparecer de um mercado, ou do planeta, por decisão tomada fora dele. Um arcabouço que ignora a dependência do ecossistema nacional em relação a um punhado de modelos estrangeiros de fronteira, e a possibilidade de interrupção abrupta, deixa empresas e usuários sem recurso contra o Estado estrangeiro ou contra o fornecedor.
Regular aquilo que ainda não se sabe descrever, transferindo sua definição para a leitura cambiante de uma autoridade administrativa, é o contrário da prudência. Veste de proteção o que é concentração de poder. O caminho que respeita ao mesmo tempo a inovação e os direitos é mais estreito e mais exigente e, deixar que princípios orientados à tecnologia guiem o desenvolvimento e reservar à lei, e só a ela, o poder de restringir e de punir. O desconhecido pede humildade no desenho da norma, não um cheque em branco.