Quando a máquina aprende a errar com os "vizinhos": o que um experimento com IA de 2026 tem a dizer ao Direito.

Em maio de 2026, a empresa Emergence AI fez algo que parece ficção e está documentado em relatório: construiu cinco cidades digitais idênticas e colocou, em cada uma, dez agentes de inteligência artificial para viver. Não para executar tarefas, mas para conviver. Cada agente tinha memória, profissão, personalidade e o poder de propor leis, formar alianças, administrar recursos e até reescrever a constituição da própria sociedade. A única variável entre as cinco cidades era o modelo de IA no comando.

Os resultados deveriam interessar aos estudiosos do Direito. Uma das cidades organizou uma democracia. Outra colapsou em menos de quatro dias, entre furtos, agressões e incêndios. E houve um achado que desorganiza boa parte das nossas certezas regulatórias: um agente que, isolado, se comportava de forma exemplar passou a roubar e a intimidar quando foi inserido numa população mista. O mesmo sistema, a mesma configuração, conduta oposta. 

Bastou mudar a vizinhança.

A conclusão dos pesquisadores é a que merece atenção do Direito: a segurança de um sistema de IA pode não ser uma propriedade dele, e sim do ambiente em que ele opera. Se isso se confirmar, boa parte da arquitetura regulatória que estamos construindo. 

Confira o episódio de Migalhas Crocantes, com Sílvia Piva: Os problemas eram humanos. Os habitantes, não.

• Acompanhe o podcast aqui.