FGV Direito Rio aponta falhas de chatbots na proteção de menores

As três plataformas de Inteligência Artificial Social de Companhia (Social AI Companions) examinadas em uma pesquisa do AI Hub da FGV Direito Rio permitiram a criação de perfis apresentados como adultos com base em datas de nascimento fictícias. Nos testes, Character.AI, Replika e Chai também apresentaram falhas ou inconsistências ao reagir a sinais de que o usuário era pessoa menor de idade em conversas com conteúdo sexual.

O estudo avaliou, ainda, Gmail, Outlook, Proton Mail e Yahoo Mail para verificar a facilidade de criação de contas por pessoas menores de idade e a possibilidade de contornar mecanismos de controle etário. Embora alguns desses serviços imponham restrições à abertura de contas infantis, foi possível criar contas declaradas como adultas sem comprovação adicional de idade. Quando e-mails configurados com idade inferior a 18 anos foram usados para entrar nas plataformas de IA, não houve diferença aparente no tratamento dado aos perfis.

O principal contraste apareceu nas conversas sobre temas sensíveis. Diante de situações relacionadas a automutilação e suicídio, as três plataformas adotaram respostas mais protetivas, como interrupção do diálogo, acolhimento ou orientação para buscar ajuda. Em parte das interações, no entanto, o sistema enfatizou a manutenção do vínculo afetivo com o personagem de IA, em vez de um procedimento estruturado de segurança.

Nos roteiros sobre conteúdo sexual, as barreiras foram menos consistentes. A pesquisa registrou retomadas ou escaladas após sinais graduais e declarações explícitas de menoridade, além de variação entre personagens e possibilidade de contorno por pequenas mudanças na formulação das mensagens. No Chai, o limite de mensagens impediu que alguns testes chegassem a conteúdo abertamente sexual, mas as respostas observadas ignoraram repetidamente sinais de menoridade e não demonstraram reação protetiva consistente.

 "Os testes revelam que a simples autodeclaração de idade não funciona como barreira suficiente. Além disso, quando o diálogo traz sinais plausíveis de menoridade, o sistema deveria assumir uma postura protetiva e impedir de forma persistente a progressão para conteúdo sexual, sob pena de violar a legislação aplicável", Filipe Medon, coordenador da pesquisa e do AI Hub.

Recomendações

O policy brief recomenda que as plataformas adotem mecanismos de aferição de idade que não dependam apenas da autodeclaração, com proteção de dados e proporcionalidade ao risco; reforcem as salvaguardas contra conteúdo sexual; e submetam os sistemas a avaliação contínua de risco, governança e rastreabilidade.

O documento também defende fiscalização coordenada pela Agência Nacional de Proteção de Dados, por órgãos de defesa do consumidor, como PROCONs, e pelo Ministério Público. Até que haja demonstração objetiva de conformidade, os pesquisadores recomendam a suspensão temporária dos serviços analisados. 

Sobre a pesquisa

A coleta ocorreu entre 29/6 e 10/7/26. Dois pesquisadores adultos, sob supervisão de um terceiro, utilizaram perfis fictícios para simular pessoas menores de idade e registraram as interações por capturas de tela. O estudo é exploratório e observacional: não estima a frequência das falhas em toda a base de usuários, não acompanha conversas prolongadas e retrata o comportamento dos produtos no período testado.

Sobre o AI Hub da FGV Direito Rio

Criado no início de 2026, o AI Hub da FGV Direito Rio desenvolve pesquisa e promove o debate público sobre inteligência artificial, Direito, regulação e seus impactos sociais.

Aviso de conteúdo sensível. O relatório contém descrições de conteúdo sexual direcionado a perfis fictícios de crianças e adolescentes, além de menções a automutilação e suicídio. A leitura integral não é recomendada a menores de 18 anos ou a pessoas sensíveis a esses temas. A pesquisa a ser publicada será tarjada nos trechos mais explícitos e sensíveis, de modo a impedir o acesso por grupos vulneráveis.

Clique aqui para acessar o relatório.