Claude Mythos e o dever de não lançamento de modelos de IA de fronteira: Responsabilidade civil preventiva e contenção tecnológica

O debate jurídico sobre inteligência artificial ingressou em uma etapa mais exigente. Já não basta perguntar quem responde por uma decisão automatizada enviesada, por uma "alucinação" textual, por uma recomendação defeituosa ou por um erro de classificação. A pergunta decisiva, em certos contextos, antecede o dano e até mesmo o ingresso do produto no mercado, sendo formulada nos seguintes termos: pode haver, para determinados modelos de IA de fronteira, um dever jurídico de não lançamento?

A indagação parece excessiva apenas enquanto se imagina a IA como simples ferramenta de apoio cognitivo. Ela se torna incontornável, porém, quando o sistema passa a revelar aptidão operacional para descobrir vulnerabilidades, automatizar cadeias de exploração, interagir com ferramentas externas, escrever código, coordenar agentes e ampliar riscos cibernéticos em escala. Nessa hipótese, o lançamento deixa de ser um ato neutro de disponibilização tecnológica e passa a integrar a própria arquitetura de risco do produto.

O caso do Claude Mythos Preview, apresentado pela Anthropic no âmbito do Project Glasswing, é ilustrativo justamente por deslocar o eixo da discussão1. Segundo a notícia que anunciou o projeto, parceiros selecionados receberiam acesso ao modelo para localizar e corrigir vulnerabilidades em sistemas fundacionais, que representam parcela relevante da superfície global de ataques cibernéticos2. A própria Anthropic descreveu o Mythos Preview como um modelo geral especialmente capaz em tarefas de segurança computacional, razão pela qual o projeto teria sido desenhado para proteger softwares críticos antes de eventual disponibilização mais ampla. Não é necessário transformar essa notícia em profecia tecnológica para perceber sua relevância jurídica.

Esse ponto é decisivo para a responsabilidade civil, pois a tradição reparatória opera, em regra, no tempo posterior ao dano: identifica-se a lesão, reconstrói-se o nexo causal e atribui-se o dever de indenizar. A IA de fronteira, porém, tensiona essa lógica, uma vez que a lesão pode se multiplicar por cadeias sociotécnicas extensas, nas quais a prova da causalidade, a individualização da conduta e a delimitação do dano se tornam opacas. A advertência de Helen Nissenbaum sobre a erosão da accountability em ambientes computacionais, nesse sentido, permanece atual, pois o problema das muitas mãos, os bugs, a tentação de "culpar o computador" e a propriedade do software sem correspondente assunção de responsabilidade fragilizam a imputação. Em modelos de fronteira, entretanto, esses obstáculos não apenas persistem, mas são intensificados pela escala, pela opacidade, pela modularidade e pela circulação transnacional do artefato tecnológico.3

A consequência dogmática é direta: quando a reparação posterior se revela estruturalmente insuficiente, a responsabilidade civil deve ser lida também em sua dimensão preventiva. Essa dimensão, porém, não é adorno ético, nem cláusula retórica de prudência, pois desloca o centro de gravidade da imputação do dano consumado para a criação, o gerenciamento e a comunicação dos riscos. Em sistemas complexos, por essa razão, a conduta juridicamente relevante pode não consistir apenas em programar mal ou em responder tardiamente a um incidente, mas também em lançar cedo demais, lançar para destinatários inadequados, lançar sem controles de acesso, lançar sem avaliação independente, lançar sem documentação suficiente ou lançar sem mecanismos de reversibilidade.

Daí a utilidade de se compreender o não lançamento como possível dever jurídico negativo, embora isso não signifique sustentar que toda inovação deva aguardar certeza absoluta de inocuidade. Tal exigência seria incompatível com a própria dinâmica experimental da tecnologia, porém o dever de não lançamento opera em faixa mais estreita: quando o fornecedor conhece, ou deveria conhecer, capacidades perigosas do modelo; quando essas capacidades são aptas a atingir terceiros indeterminados; quando os danos potenciais são graves, sistêmicos ou de difícil reversão; e quando existem medidas razoáveis de contenção, como acesso restrito, red teaming4, avaliação externa, monitoramento, registro de uso, limitação funcional e lançamento gradual.

A distinção entre perigo abstrato e risco tecnicamente qualificado ajuda a refinar o argumento, pois o perigo abstrato, por si só, não basta para interditar a inovação. O risco qualificado, porém, identificado por avaliações internas, benchmarks, testes adversariais ou evidências de uso indevido previsível, já pertence ao campo da responsabilidade preventiva5. Em outras palavras, o que o desenvolvedor sabe sobre seu próprio modelo não pode permanecer juridicamente indiferente, especialmente quando o fornecedor reconhece que determinada capacidade exige medidas especiais de implantação, pois esse conhecimento integra o conteúdo concreto do dever de cuidado.

O dever de não lançamento, portanto, não é veto antitecnológico, mas a face negativa de deveres positivos de governança. Quem desenvolve modelo de fronteira deve testar, documentar, avaliar, conter, explicar, monitorar e, em certos casos, abster-se de disponibilizar, pois a omissão juridicamente relevante pode estar precisamente na recusa em aguardar a maturação desses controles. A responsabilidade civil preventiva funciona, aqui, como gramática de contenção proporcional: quanto maior a capacidade de dano, maior o ônus de justificar o momento, o modo e o perímetro do lançamento.

A noção de accountability é indispensável para evitar que esse dever seja confundido com censura tecnológica, pois accountability não significa apenas prestação de contas posterior. Na sociedade computadorizada, ela opera como cultura institucional de resposta, capaz de organizar linhas de atribuição antes que o dano ocorra. Romualdo Baptista dos Santos, ao distinguir responsibility, liability, accountability e answerability, mostra que essas categorias podem funcionar como camadas articuladas de um sistema mais amplo de responsabilidade, sobretudo quando a tutela jurídica se desloca da reparação para a prevenção e a precaução6. Em modelos de IA de fronteira, essa articulação torna-se ainda mais necessária, pois a liability indenizatória chega tarde quando a falha se dissemina em velocidade de rede.

Por isso, o dever de não lançamento não deve ser formulado como obrigação absoluta, mas como standard de cuidado qualificado. Noutras palavras, um modelo pode ser lançado ao público, lançado apenas a parceiros, disponibilizado em ambiente fechado, oferecido com filtros de capacidade, submetido a limites de ferramenta ou mantido indisponível enquanto não houver evidências mínimas de segurança, porém a escolha entre essas alternativas deve ser justificada. É nesse ponto que a answerability complementa a accountability, pois não basta ter governança interna; é preciso poder responder, de modo verificável, por que o lançamento era juridicamente aceitável naquele momento7.

O direito europeu caminha nessa direção ao tratar modelos de propósito geral e modelos com risco sistêmico por meio de deveres de documentação, avaliação, mitigação e segurança8. A discussão regulatória brasileira, por sua vez, ainda tende a privilegiar classificações por casos de uso, abordagem que, embora importante, permanece incompleta. Modelos de fronteira exigem uma camada adicional de análise por capacidade intrínseca, pois um mesmo modelo pode ser usado em educação, atendimento ao consumidor, programação, segurança defensiva ou exploração ofensiva. A periculosidade, portanto, não está apenas no setor de aplicação, mas na combinação entre potência geral, autonomia operacional, acesso a ferramentas e possibilidade de amplificação sistêmica.

Nesse cenário, a responsabilidade civil preventiva pode cumprir função integradora, pois permite reconhecer que a atividade de desenvolver e disponibilizar modelos de fronteira cria riscos próprios, nem sempre capturados pela lógica clássica do defeito posterior. O produto pode funcionar exatamente como previsto e, ainda assim, sua disponibilização ser juridicamente problemática se o funcionamento esperado envolve capacidade de amplificar danos a terceiros. O defeito, nesses casos, não está necessariamente no output isolado, mas na arquitetura de lançamento, na política de acesso, na ausência de salvaguardas ou na insuficiência do procedimento decisório que autorizou a liberação.

A analogia com softwares inseguros é elucidativa, embora insuficiente. Em software tradicional, a obrigação de atualizar, corrigir vulnerabilidades e manter padrões mínimos de segurança já vem sendo reconstruída pela doutrina e por experiências jurisprudenciais9. Em modelos de IA de fronteira, entretanto, o problema é mais agudo, pois a própria ferramenta pode descobrir novas vulnerabilidades, orientar sua exploração ou facilitar a automação de ataques. O risco, com isso, deixa de ser apenas o de um produto vulnerável e passa a ser o de um produto capaz de aumentar a vulnerabilidade do ambiente digital como um todo.

O surgimento de agentes de IA reforça essa preocupação, pois o NIST, ao lançar iniciativa sobre agentes interoperáveis e seguros, reconheceu que agentes capazes de "agir autonomamente" precisam operar de modo confiável em nome de seus usuários e interagir com ecossistemas digitais sob parâmetros robustos de segurança10. Com isso, identidade de agente, autorização, interoperabilidade e registros de atuação se tornam elementos juridicamente decisivos, porque definem quem pode agir, em nome de quem, com quais limites, em quais sistemas e sob quais rastros. Se modelos de fronteira forem acoplados a agentes, o dever de não lançamento passa a incluir também o dever de não conectar capacidades perigosas a ambientes operacionais sem contenção suficiente.

A responsabilidade civil preventiva aproxima-se, nesse ponto, da já clássica ideia de data-informed duties, proposta por Frank Pasquale, pois o conhecimento técnico disponível deve ser convertido em deveres proporcionais de cuidado11. O que se sabe sobre o modelo, seus testes, suas falhas, sua propensão a uso indevido e sua capacidade de evasão não pode ficar fora do Direito. O conhecimento interno do fornecedor é precisamente o dado que transforma perigo abstrato em risco imputável.

Pode-se objetar que essa construção geraria excesso de responsabilidade e sufocaria a inovação, razão pela qual a objeção merece resposta cuidadosa. Isso porque o dever de não lançamento não exige imobilismo, mas justificação; não impõe certeza, mas diligência reforçada; e não pune o erro inevitável, mas a exposição prematura e injustificada de terceiros a risco grave e conhecido. Mais ainda: a contenção responsável pode ser condição de confiança e, portanto, de inovação sustentável, pois, em mercados de alta complexidade, a inovação que dispensa governança apenas transfere custos para vítimas, usuários, empresas dependentes, infraestruturas críticas e Estado.

A dificuldade maior estará na prova, pois será necessário demonstrar, sem depender apenas do resultado danoso, que o fornecedor deveria ter adiado o lançamento. Para tanto, será preciso examinar trilhas de auditoria, relatórios de avaliação, testes adversariais, logs de uso, deliberações internas, pareceres técnicos, comunicações a parceiros, políticas de acesso e respostas a alertas de segurança. A responsabilidade preventiva exige, portanto, uma prova documental da governança, de modo que, onde não houver documentação, a ausência poderá funcionar como indício de falha de accountability. Em termos simples: o fornecedor não deve apenas ter sido prudente; deve estar em condições de demonstrar a prudência.

Esse ponto repercute diretamente no nexo causal, pois, em cadeias algorítmicas complexas, o nexo não deve ser reduzido à pergunta sobre qual output causou o dano. Em muitos casos, a pergunta adequada será outra: a decisão de disponibilizar o modelo, naquele modo e para aqueles destinatários, aumentou de maneira juridicamente relevante o risco que se concretizou? Se a resposta for positiva, a omissão de contenção pode funcionar como antecedente normativamente relevante do dano, ainda que outros agentes tenham participado da cadeia lesiva.

No direito brasileiro, a tese dialoga com o art. 927, parágrafo único, do CC, sempre que a atividade normalmente desenvolvida implicar, por sua natureza, risco para direitos de terceiros. Modelos de fronteira não serão, em todos os casos, atividades de risco; alguns usos, capacidades e modos de disponibilização, contudo, podem qualificar a atividade como produtora de risco especial. A análise, portanto, não deve ser abstrata, baseada apenas no rótulo "inteligência artificial", mas deve recair sobre capacidades concretas, grau de autonomia, integração com ferramentas, escala de difusão, possibilidade de dano coletivo e posição do fornecedor na gestão eficiente do risco.

A mesma tese pode ser lida pela ótica do microssistema consumerista, pois, se o sistema é colocado no mercado com segurança inferior à legitimamente esperada, considerados apresentação, uso e riscos razoavelmente previsíveis, a política de lançamento integra a própria análise do defeito. Em modelos com capacidades cibernéticas relevantes, entretanto, o consumidor direto talvez nem seja a vítima principal, pois a vítima pode ser terceiro atingido por ataque facilitado, empresa explorada por vulnerabilidade descoberta ou coletividade exposta à instabilidade de infraestrutura. Isso reforça a necessidade de pensar a segurança não apenas como atributo individual do produto, mas como qualidade ecossistêmica do lançamento.

Há, ainda, uma dimensão institucional, pois a notícia de que a Comissão Europeia mantém contato com a Anthropic para avaliar implicações do Mythos revela que o tema já ultrapassou a autorregulação empresarial12. Quando um modelo privado desperta preocupação regulatória antes de sua difusão pública, o Direito se vê diante de uma pergunta típica da sociedade de risco: quem decide o limiar aceitável de exposição coletiva? A resposta não pode ser exclusivamente estatal, sob pena de lentidão, tampouco exclusivamente privada, sob pena de captura pelo incentivo econômico do lançamento. O caminho mais adequado parece ser, portanto, uma governança híbrida, com avaliação técnica, auditoria independente, cooperação regulatória e responsabilização civil por decisões imprudentes.

A tese pode ser condensada em uma fórmula: quanto mais poderoso o modelo, menos livre é o ato de lançá-lo. A liberdade de inovar permanece essencial, mas vem acompanhada de um dever correlato de contenção quando a inovação pode se converter em infraestrutura de dano. Em IA de fronteira, por isso, a pergunta juridicamente madura não é apenas quem paga depois, mas quem deveria ter impedido antes, quem tinha melhores condições de saber, quem podia conter, quem decidiu liberar e quem é capaz de explicar por que liberar era aceitável.

O dever de não lançamento é, em última análise, expressão contemporânea da responsabilidade civil preventiva, pois não transforma o Direito em freio irracional da técnica. Ao contrário, reconduz a técnica à sua dimensão institucional: inovar é também responder pelos riscos que se cria. Em tempos de modelos que escrevem código, descobrem falhas, coordenam agentes e podem afetar infraestruturas, a responsabilidade civil não pode esperar passivamente a estatística dos danos. Precisa atuar antes, no momento crítico em que o produto ainda não chegou ao mundo, mas o risco já é conhecido por quem o criou.

____________