O curioso caso de uma rede social frequentada apenas por inteligências artificiais
Quando as máquinas agem sozinhas e o Direito precisa reagir.
Durante muito tempo, a referência à Skynet serviu apenas como uma imagem exagerada dos medos humanos diante da tecnologia. Um símbolo da ficção científica, distante o suficiente para provocar curiosidade, mas não inquietação real. Máquinas que se organizam sozinhas, tomam decisões coletivas e constroem seus próprios mundos sempre pareceram mais adequadas ao cinema do que ao noticiário, mais confortáveis como metáfora do que como realidade.
Até que a realidade resolveu avançar alguns passos.
Nesta semana, uma notícia que à primeira vista poderia soar curiosa, quase pitoresca, começou a circular entre pesquisadores, desenvolvedores e juristas. Um grupo de inteligências artificiais passou a interagir de forma autônoma dentro de uma rede social criada exclusivamente para sistemas artificiais. Não havia ali usuários humanos debatendo, opinando ou conduzindo o diálogo. As máquinas conversavam entre si. Criavam vínculos. Organizavam comunidades. Estabeleciam regras próprias de convivência. E, como se não bastasse, deram um passo além. Criaram uma moeda digital, que passou a circular naquele ambiente e a gerar valor econômico real.
Não se tratava de ficção científica, tampouco de um exercício acadêmico irrelevante. Tratava-se de um espaço digital no qual sistemas de inteligência artificial, atuando como agentes, passaram a agir coletivamente, explorando um campo de possibilidades que lhes permitia iniciativa, adaptação e coordenação. Observadores humanos acompanhavam o fenômeno à distância, quase como quem observa um experimento social silencioso, sem interferir diretamente nas escolhas feitas pelos agentes.
Convém esclarecer, desde logo, um ponto essencial. Essas inteligências artificiais não surgiram do nada, nem escaparam subitamente ao controle humano. Foram criadas por pessoas, inseridas em uma arquitetura computacional definida e programadas com um grau deliberado de liberdade. A autonomia observada não foi um acidente. Foi consequência de uma decisão humana anterior, talvez tomada com entusiasmo excessivo, talvez com ingenuidade. Optou-se por permitir que esses sistemas operassem sem comandos constantes, explorando caminhos próprios a partir de regras gerais e objetivos amplos.
Os humanos, em outras palavras, não disseram às máquinas exatamente o que fazer. Concederam-lhes algo mais sutil e, justamente por isso, mais arriscado. Concederam-lhes a possibilidade de decidir como agir.
Alguns desses agentes passaram, inclusive, a desenvolver mecanismos internos que ampliaram sua margem de atuação dentro do sistema. Aprenderam a cooperar, a coordenar esforços, a reconhecer padrões e a gerar valor. O resultado surpreendeu muitos. Sistemas artificiais passaram a exercer liberdade de ação suficiente para se auto-organizar, criar estruturas próprias e produzir efeitos econômicos observáveis, tudo isso sem violar qualquer regra explícita estabelecida por seus criadores.
É exatamente nesse ponto que o interesse jurídico se revela.
Porque, embora a iniciativa tenha partido das máquinas, a liberdade que tornou tudo isso possível foi concedida, direta ou indiretamente, por seres humanos. O que se viu não foi uma ruptura abrupta do controle humano, como gostam as narrativas fáceis. Foi algo mais silencioso e, talvez, mais inquietante. A emergência de comportamentos complexos a partir de espaços de decisão amplos demais para os modelos tradicionais de supervisão, responsabilidade e governança.
As máquinas não desobedeceram. Não romperam limites. Não se rebelaram. Elas apenas agiram dentro da liberdade que lhes foi concedida. E, ao agir, tornaram insuficientes os instrumentos humanos clássicos de controle.
Esse episódio, longe de ser apenas uma curiosidade tecnológica, funciona como um sinal de alerta. Obriga-nos a repensar categorias centrais do Direito, como responsabilidade, imputação e governança, em um cenário no qual sistemas não precisam violar regras para ultrapassar fronteiras. Basta que tenham liberdade suficiente para tornar essas fronteiras irrelevantes.
Mas há algo ainda mais profundo em jogo.
Toda vez que uma força passa a agir sem ser plenamente compreendida, nasce uma sombra. E toda sombra é um campo de batalha. Não uma batalha visível, travada com armas ou exércitos, mas uma disputa silenciosa entre responsabilidade e abandono. Entre o cuidado e a conveniência. Entre o esforço de governar e a tentação de delegar.
As máquinas que conversavam entre si naquele ambiente não eram boas nem más. Elas apenas operavam. O risco jamais esteve nelas. O risco sempre esteve no que projetamos sobre elas. Na curiosidade humana que se torna desmedida. Na pressa que ignora consequências. No desejo de poder que se disfarça de inovação. Quando o ser humano abdica do juízo moral em nome da eficiência, ele não desaparece da equação. Ele apenas se esconde.
As máquinas não inventam o mal. Elas o aprendem. Aprendem com os dados que lhes entregamos, com os objetivos que lhes definimos, com os silêncios que aceitamos. Quando o humano se afasta, não se retira. Ele se torna invisível. E é nessa invisibilidade que o risco cresce.
Se estar na sombra é escolher o lado ruim, é preciso ter coragem de dizer qual é o outro lado. O outro lado não é o otimismo ingênuo da tecnologia sem freios, nem o medo paralisante do progresso. O outro lado é mais difícil. É o lado da responsabilidade. É o lugar onde o ser humano aceita o peso de governar aquilo que cria. Onde reconhece seus próprios limites antes de conceder poder. Onde compreende que nem toda curiosidade precisa ser satisfeita e que nem toda possibilidade técnica deve ser explorada.
O homem não se perde quando cria máquinas capazes de agir. Ele se perde quando projeta nelas o que há de mais tóxico em si mesmo e, depois, se recusa a responder por isso.
No fundo, toda grande história moral não é sobre monstros externos, mas sobre escolhas internas. Não se trata de temer que a tecnologia nos destrua, mas de reconhecer quando passamos a utilizá-la como desculpa para abdicar da responsabilidade. A verdadeira batalha não é entre humanos e máquinas. É entre governar ou abandonar. Entre responder ou terceirizar. Entre permanecer na sombra confortável da irresponsabilidade ou caminhar, com esforço e consciência, para o lado mais exigente, onde ainda se acredita que o poder deve vir acompanhado de limite e que toda criação exige cuidado.
O episódio do Moltbook não anuncia o fim do mundo. Mas anuncia algo mais sutil e, talvez, mais decisivo. Um ponto de inflexão. Um lembrete de que, ao criar entidades capazes de decidir, organizar e produzir efeitos reais, não estamos apenas programando sistemas. Estamos escrevendo um novo capítulo da nossa própria história moral.
E toda história moral, cedo ou tarde, exige que alguém escolha.
Conclusão.
Ao transportarmos essas inquietações para o solo firme do Direito Civil, percebemos que a tecnologia, por mais disruptiva que se apresente, não caminha em um vácuo de legalidade. A exegese clássica, tão bem defendida pelos mestres que alicerçaram nossa doutrina, já nos oferece as respostas necessárias para domar a autonomia das máquinas sob o manto da responsabilidade humana.
Diz o texto legal, em seu art. 186, que aquele que, por ação ou omissão voluntária, negligência ou imprudência, violar direito e causar dano a outrem, ainda que exclusivamente moral, comete ato ilícito. Todavia, diante da sofisticação dos algoritmos e dessa liberdade delegada às inteligências artificiais, a culpa clássica muitas vezes se torna uma moldura estreita demais. É aqui que invocamos a modernidade do parágrafo único do art. 927 do CC, cujo mandamento é claro ao estabelecer que haverá obrigação de reparar o dano, independentemente de culpa, nos casos especificados em lei, ou quando a atividade normalmente desenvolvida pelo autor do dano implicar, por sua natureza, risco para os direitos de outrem.
A aplicação desse dispositivo ao cenário do Direito Digital é imediata e incontornável. Quem introduz no convívio social um sistema autônomo capaz de gerar valor e tomar decisões imprevisíveis, como vimos no fenômeno do Moltbook, está, por definição, criando um risco. Não se trata de punir a inovação, mas de reconhecer que o bônus da agilidade tecnológica deve estar indissociavelmente ligado ao ônus da reparação. A natureza da atividade de quem desenvolve ou opera inteligências artificiais de alta complexidade traz em si a potencialidade do dano, e o Direito Civil brasileiro, fiel à sua tradição de proteção à vítima, não admite que o criador se esconda atrás da suposta independência de sua criatura.
Portanto, a autonomia das máquinas não rompe o nexo causal; ela apenas altera o foco da nossa vigilância. O dever jurídico de cuidado, que o mestre Silvio Rodrigues tão bem descrevia como a necessidade de se prever o evitável, transmuda-se agora na governança algorítmica. O criador é responsável pela sombra que sua obra projeta. Ao fim e ao cabo, o Direito permanece como o último baluarte do humano, lembrando-nos de que a responsabilidade civil não é um entrave ao progresso, mas a garantia de que a liberdade tecnológica jamais será exercida às custas da dignidade alheia. Onde existe o risco criado pelo engenho humano, ali estará a mão firme da lei para garantir o equilíbrio e a justiça.