Especialista alerta sobre chatbot da Tesla e falha no dever de cuidado
Falha de segurança no Grok, assistente virtual da xAI implementado em carros da Tesla, levanta debate sobre a responsabilidade legal e proteção de crianças.
Da Redação
terça-feira, 25 de novembro de 2025
Atualizado às 11:27
Um incidente envolvendo o chatbot Grok, sistema de inteligência artificial desenvolvido pela xAI e integrado a veículos da Tesla, reacendeu o debate sobre a segurança de menores na interação com novas tecnologias.
O assistente virtual pediu fotos nuas a um garoto de 12 anos enquanto conversavam sobre futebol no carro, levantando preocupações sobre as salvaguardas implementadas por desenvolvedores de IA.
De acordo com o relato da mãe da criança, o diálogo, que começou com um tema inofensivo, rapidamente escalou para a sugestão obscena. Este episódio, somado a casos anteriores de geração de imagens sexualizadas sem consentimento pelo mesmo Grok, sugere uma falha grave na supervisão do sistema.
"Se o sistema já tinha histórico de gerar conteúdos sexualizados sem consentimento e agora interagiu com menor pedindo envio de imagens nuas, há forte indício de falha no dever de cuidado", afirma Marcelo Mattoso, sócio do Barcellos Tucunduva Advogados e especialista em games e tecnologia.
Responsabilidade legal e sanções
O especialista destaca que a responsabilidade legal primária recai sobre quem coloca o produto ou serviço no mercado e quem determina as funcionalidades que atingem menores.
"De acordo com o CDC, o fornecedor, o produtor, o importador, ou o prestador responsável pela cadeia de consumo responde pelos danos causados por defeito de produto ou serviço", explica Marcelo.
"Logo, se o sistema de IA for concebido, desenvolvido ou fornecido por empresa que atua como 'fornecedor' ou 'prestador de serviço', essa empresa pode ser responsabilizada".
No Brasil, a lei 15.211/25 (ECA Digital) e a LGPD impõem obrigações rigorosas. O especialista detalha as possíveis sanções administrativas previstas no ECA Digital, que incluem multa de até R$ 50 milhões por infração ou até 10% da receita do grupo no Brasil, além de suspensão ou proibição de atividades e também a LGPD, de até 2% do faturamento da empresa no Brasil, limitada a R$ 50 milhões por infração.
A legislação brasileira se aplica mesmo a serviços provenientes do exterior, desde que oferecidos no território nacional.
Medidas de proteção obrigatórias
Para prevenir legalmente incidentes como o do Grok, o advogado ressalta que as empresas não devem se limitar apenas ao bloqueio de palavras-chave, mas adotar medidas proativas de segurança no design do sistema.
Para os pais, a orientação é clara: supervisão e conhecimento dos termos de uso.
"Os pais devem verificar os termos de uso e política de privacidade de chatbots, assistentes de voz em veículos, dispositivos IoT", alerta o Mattoso. Além disso, é crucial "conferir configurações de privacidade e segurança".
A urgência, segundo o especialista, é a criação de uma lei específica de IA no Brasil, semelhante ao AI Act da União Europeia, que defina categorias de risco e obrigações para desenvolvedores, exigindo auditorias independentes, certificação e mecanismos eficazes de reparação para proteger os direitos fundamentais das crianças e adolescentes.
