Inteligência artificial e a regulação das sandboxes

Como se sabe, o Direito busca regular fatos depois que eles vêm a ocorrer e isto é mais complexo no ambiente digital, dadas as diversas inovações e seu caráter inerentemente disruptivo¹.

Há mais de uma década, a Microsoft utilizou um chatbot que, em menos de 16 horas, passou a disseminar mensagens de ódio com base no que observava no antigo Twitter².

Atualmente, a situação parece ser ainda mais gravosa.

Conforme a própria OpenAI afirma, houve um incidente de segurança decorrente de modelos de IA, os quais conseguiram contornar restrições que deveriam isolá-los da Internet³.

Do mesmo modo, também houve série de incidentes mais recentes em órgãos do governo dos EUA⁴ e Austrália⁵, sendo que a IA conseguiu ultrapassar mecanismos de segurança que considerou meros entraves à sua tarefa.

Também o Gemini conseguiu quebrar barreiras de segurança de ao menos três empresas, sendo que a Google descobriu o incidente em julho deste ano, mas somente o reportou após questionamento do The Wall Street Journal⁶.

Diante destes poucos exemplos, temos então de questionar efetivamente sobre nossas capacidades a respeito de regular a IA, a utilização de computadores quânticos e toda sorte de inovações que sequer conhecemos.

Como fica evidente, o problema ganha proporções à luz da internet, algo que está sendo testado em uma sandbox pode, através de contorcionismos imprevistos pelo desenvolvedor, alcançar a rede mundial de computadores e ter repercussão em qualquer local ou em todo o planeta.

Reconhecendo o problema, diversos modelos regulatórios têm sido implementados, tais como a Regulação de IA da União Europeia de 2024⁷, cuja preocupação central é a de que uma IA não seja lançada no mercado antes de sua conformidade com as diretrizes humanocêntricas.

O mesmo diploma trata da criação dos ambientes de testagens pelas autoridades de cada Estado em seu art. 57, mas dependendo da vontade dos desenvolvedores para a submissão ao ambiente de testagem.

O parágrafo 12 do mesmo artigo alude à responsabilidade das sociedades que lidam com IA ainda no sandbox, criando uma regra geral de responsabilização perante terceiros, mas excluindo penalidades administrativas na hipótese de terem agido de boa-fé e seguido as linhas de orientação provenientes da autoridade.

Para o teste de IA de alto risco fora do ambiente de testagem, o art. 60 prevê expressamente o período de seis meses, prorrogáveis por igual período mediante notificação prévia à autoridade.

No Brasil, projeto de lei que visa instituir o Marco Legal da inteligência artificial⁸ (PL 2.338/23) é mais enxuto, porém não deixa de tratar do princípio da precaução e do que chamou de “ambiente regulatório experimental”, também conhecido como “sandbox regulatório”.

A diferença central se dá no art. 57 do PL, o qual dispõe que os danos causados a terceiros são de responsabilidade dos participantes inseridos no ambiente de testagem, mas não menciona a possibilidade de que as sanções administrativas sejam afastadas.

Além disto, temos também a lei de Liberdade Econômica, que trata da necessidade de AIR - Análise de Impacto Regulatório para verificar se a intervenção do Estado é benéfica ou não aos cidadãos.

No caso concreto, a preocupação com a necessidade de elaboração de uma AIR é evidente, posto que os estudos necessários ou mesmo a elaboração de decisão fundamentada para dispensa com base em urgência podem embaraçar medidas preventivas cujos danos não se limitam sequer à esfera nacional, podendo alcançar outros países.

Recentemente, os EUA e a China discutiram o estabelecimento de canal de comunicação em relação a incidentes decorrentes de IA, embora a posição do governo dos EUA seja a de não frear qualquer avanço e não compartilhar informações que possam aumentar a competitividade no mercado de IA⁹.

Fiquemos então com estes exemplos de regulação e passemos aos incentivos econômicos e geopolíticos.

De um lado, há fortes incentivos dos agentes econômicos em não submeter suas IAs em desenvolvimento ao escrutínio de qualquer agência reguladora sob o argumento de preservação de “segredo comercial e industrial”.

Ao mesmo passo, isto também pode ser visto como uma barreira de entrada, ainda que o PL do Marco Legal da IA busque facilitar os procedimentos de sociedades de menor expressão econômica.

Sob uma ótica puramente de risco-retorno, o desenvolvedor poderá calcular os possíveis ganhos e sua probabilidade vis a vis a probabilidade de um incidente e sua repercussão econômica nas finanças da sociedade empresária.

Observando o aspecto geopolítico, a disputa pela IA, seja para fins comerciais, seja para fins militares, tem sido objeto de fomento por parte de países que desejam vencer a disputa sobre o domínio da IA a qualquer custo.

Todavia, para que tal fomento seja possível, mostra-se imperativo que a regulação seja amainada ou inexistente, atuando de maneira exclusivamente ex post.

Ao lado disto, nos países que buscam regular a IA, repousa sob a agência reguladora uma pesada responsabilidade ao criar ambientes de testagem, especialmente levando-se em consideração que os recursos a ela destinados podem não fazer frente sequer ao capital das sociedades empresárias reguladas.

A disparidade é evidente, especialmente em um país como o Brasil, cujos recursos são escassos e a ANPD possui cada vez mais atribuições.

Sob esta ótica e levando em consideração o breve histórico apresentado, considerados os riscos, temos para nós que ingressamos em um período no qual o futuro do Direito Digital não será mais atrelado à expectativa de boas intenções dos agentes econômicos e tampouco à capacidade de um Estado, isoladamente, impor sanções apenas em caráter repressivo ou por meio de regulações em um ambiente naturalmente disruptivo.

Como visto, as IAs têm superado as expectativas dos desenvolvedores e, mais que isso, encontrado meios de localizar caminhos impensados pelos programadores, tais como formas de acesso à rede mundial de computadores para alcançar sites de códigos abertos, a SEC dos EUA, o portal estatístico da Medicare na Austrália e sociedades empresárias em geral.

Neste cenário, discutir a possibilidade ou não do próprio conceito de soberania digital entra em xeque se os Estados não puderem dispor de meios que façam frente às IAs mais modernas e da próxima geração de computação a ser implementada.

A soberania digital depende de financiamento, hardware, software, capital humano e uma incessante manutenção.

Realmente, por mais bem intencionadas que sejam as PECs e discussões sobre o tema, não se pode deixar de notar que os desafios concretos são muito maiores do que as boas intenções do constituinte derivado.

Assim, somente haverá soberania digital se superarmos o falso paradoxo de que cada país deve renunciar a parte de sua autodeterminação legislativa e financeira em prol da estabilidade de uma comunidade de Estados.

A necessidade de cooperação internacional por meio de instrumentos vinculantes pode ser justificada por três ângulos independentes:

O primeiro é o de que chegamos ao ponto no qual é necessário o estabelecimento de uma verdadeira comunidade (Gemeinschaft) digital¹⁰ que se proponha ao resguardo mútuo da soberania e da dignidade da pessoa humana em todos os países e que seja mais firme que a Agenda 2030 da ONU, por exemplo.

Por comunidade, remetemos aqui à expressão Gemeinschaft, na qual os vínculos são formados de maneira mais próxima, pessoal e humana, não se prendendo necessariamente a uma ótica utilitária ou de um agir racional orientado a fins particulares, presentes no conceito de sociedade (Gesellschaft), que impera atualmente.

O segundo ponto advém da aplicação das regras do discurso prático geral de ALEXY ou do discurso prático de HABERMAS¹¹, especificamente no ponto de necessidade de universalidade de posição, ou seja, um Estado que se encontra em posição de vantagem deve ter, necessariamente, a mesma posição que teria caso fosse um Estado em maior vulnerabilidade frente à IA.

O terceiro nos leva à cooperação por ausência de escolha, pois a manutenção dos interesses individuais pode levar a um cenário, especialmente no contexto de uso militar das novas tecnologias, à MAD - Mútua Destruição Assegurada, sendo o caso de lembrarmos das palavras de Oppenheimer em sua tradução da Bagavadeguitá: “Agora, eu me tornei a Morte, o destruidor de mundos".

Assim, tendo em vista o futuro, consideramos imprescindível a tomada de medidas preventivas e repressivas à luz do princípio da precaução, tais como:

1. Colaboração internacional com a elaboração de padrões de segurança internacionais e de auxílio financeiro a países cujas autoridades não possam criar sandboxes de testagem;
2. Na hipótese de conjunto de países de parcos recursos ou condições, a criação de autoridades internacionais de forma colaborativa e financiada, reduzindo-se então a criação desnecessária de inúmeras autoridades sobrepostas;
3. Obrigação de que as IAs sejam obrigatoriamente submetidas a estas sandboxes de testagem, evitando então que haja projetos desconhecidos pelas autoridades e cujo risco é imprevisível, dificultando a ocultação e reparação de incidentes e a existência de “paraísos regulatórios”; e
4. Facilitação de mecanismos de responsabilização (penal, administrativa e financeira) na hipótese de incidentes, evitando-se assim mecanismos como cartas rogatórias em situações nas quais a Convenção de Budapeste não é aplicável, por exemplo.

Por fim, o adágio africano pontua que é necessária uma vila para criar uma criança, talvez seja necessária uma colaboração internacional para nos proteger de incidentes de IA, da computação quântica e dos desafios que sequer imaginamos.

_____

1. Versão adaptada de intervenção no 2º Congresso de Direito Digital da OAB/SP.

2. STAFF, Microsoft “deeply sorry” for racist and sexist tweets by AI chatbot, The Guardian, 2016.

3. O incidente da Hugging Face e os próximos passos, OpenAI, disponível em: https://openai.com/pt-BR/index/hugging-face-incident-and-the-road-ahead/. acesso em: 30 set. 2026.

4. OpenAI bots meddled with US government agencies, including SEC and Census, disponível em: https://www.bbc.com/news/articles/cw62jje658dlo. acesso em: 30 set. 2026.

5. How we will do better for Australia, OpenAI, disponível em: . acesso em: 30 set. 2026.

6. WOO, Erin; MCMILLAN, Robert, Exclusive | Gemini Hacked Three Companies in First Known Breakout by Google’s AI, Wall Street Journal, 2026.

7. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence and amending Regulations (EC) No 300/2008, (EU) No 167/2013, (EU) No 168/2013, (EU) 2018/858, (EU) 2018/1139 and (EU) 2019/2144 and Directives 2014/90/EU, (EU) 2016/797 and (EU) 2020/1828 (Artificial Intelligence Act)Text with EEA relevance.

8. Disponível em: https://www.camara.leg.br/proposicoesWeb/prop_mostrarintegra?codteor=2868197&filename=PL%202338/2023 (acesso em 01.10.2026)

9. Trump rules out joint US-China venture to develop AI, disponível em: . acesso em: 3 out. 2026.

10. Não confundir com “digital Gemeinschaft” como exposto em: SALTE, Luise, Social Media Natives’ Invisible Online Spaces: Proposing the Concept of Digital Gemeinschaft 2.0, Social Media + Society, v. 8, n. 3, p. 20563051221113076, 2022.

11. HABERMAS, Jürgen, Moral Consciousness and Communicative Action, Maldon: Polity Press, 2007, p. 120; ALEXY, Robert, Theorie der juristischen Argumentation: Die Theorie des rationalen Diskurses als Theorie der juristischen Begründung, Frankfurt: Suhrkamp, 2019, p. 251.