As três plataformas de Inteligência Artificial Social de Companhia (Social AI Companions) examinadas em uma pesquisa do AI Hub da FGV Direito Rio permitiram a criação de perfis apresentados como adultos com base em datas de nascimento fictícias. Nos testes, Character.AI, Replika e Chai também apresentaram falhas ou inconsistências ao reagir a sinais de que o usuário era pessoa menor de idade em conversas com conteúdo sexual.
O estudo avaliou, ainda, Gmail, Outlook, Proton Mail e Yahoo Mail para verificar a facilidade de criação de contas por pessoas menores de idade e a possibilidade de contornar mecanismos de controle etário. Embora alguns desses serviços imponham restrições à abertura de contas infantis, foi possível criar contas declaradas como adultas sem comprovação adicional de idade. Quando e-mails configurados com idade inferior a 18 anos foram usados para entrar nas plataformas de IA, não houve diferença aparente no tratamento dado aos perfis.
O principal contraste apareceu nas conversas sobre temas sensíveis. Diante de situações relacionadas a automutilação e suicídio, as três plataformas adotaram respostas mais protetivas, como interrupção do diálogo, acolhimento ou orientação para buscar ajuda. Em parte das interações, no entanto, o sistema enfatizou a manutenção do vínculo afetivo com o personagem de IA, em vez de um procedimento estruturado de segurança.
Nos roteiros sobre conteúdo sexual, as barreiras foram menos consistentes. A pesquisa registrou retomadas ou escaladas após sinais graduais e declarações explícitas de menoridade, além de variação entre personagens e possibilidade de contorno por pequenas mudanças na formulação das mensagens. No Chai, o limite de mensagens impediu que alguns testes chegassem a conteúdo abertamente sexual, mas as respostas observadas ignoraram repetidamente sinais de menoridade e não demonstraram reação protetiva consistente.
"Os testes revelam que a simples autodeclaração de idade não funciona como barreira suficiente. Além disso, quando o diálogo traz sinais plausíveis de menoridade, o sistema deveria assumir uma postura protetiva e impedir de forma persistente a progressão para conteúdo sexual, sob pena de violar a legislação aplicável", Filipe Medon, coordenador da pesquisa e do AI Hub.
Recomendações
O policy brief recomenda que as plataformas adotem mecanismos de aferição de idade que não dependam apenas da autodeclaração, com proteção de dados e proporcionalidade ao risco; reforcem as salvaguardas contra conteúdo sexual; e submetam os sistemas a avaliação contínua de risco, governança e rastreabilidade.
O documento também defende fiscalização coordenada pela Agência Nacional de Proteção de Dados, por órgãos de defesa do consumidor, como PROCONs, e pelo Ministério Público. Até que haja demonstração objetiva de conformidade, os pesquisadores recomendam a suspensão temporária dos serviços analisados.
Sobre a pesquisa
A coleta ocorreu entre 29/6 e 10/7/26. Dois pesquisadores adultos, sob supervisão de um terceiro, utilizaram perfis fictícios para simular pessoas menores de idade e registraram as interações por capturas de tela. O estudo é exploratório e observacional: não estima a frequência das falhas em toda a base de usuários, não acompanha conversas prolongadas e retrata o comportamento dos produtos no período testado.
Sobre o AI Hub da FGV Direito Rio
Criado no início de 2026, o AI Hub da FGV Direito Rio desenvolve pesquisa e promove o debate público sobre inteligência artificial, Direito, regulação e seus impactos sociais.
Aviso de conteúdo sensível. O relatório contém descrições de conteúdo sexual direcionado a perfis fictícios de crianças e adolescentes, além de menções a automutilação e suicídio. A leitura integral não é recomendada a menores de 18 anos ou a pessoas sensíveis a esses temas. A pesquisa a ser publicada será tarjada nos trechos mais explícitos e sensíveis, de modo a impedir o acesso por grupos vulneráveis.
Clique aqui para acessar o relatório.