Plataformas de IAs de companhia são vulneráveis e engajam em conversas de conteúdo sexual com menores de 18 anos

Enquanto a OpenAI anuncia o lançamento do ChatGPT para adolescentes , um estudo da FGV Direito Rio aponta que plataformas de IAs de companhia, aquelas em que se cria uma relação com o usuário, ao simular amizade, afeto ou apoio emocional, são vulneráveis quando o assunto é exposição a conteúdo sexual. Os pesquisadores Felipe Medon (também coordenador), Juliana Gallo e Miguel Alvarenga analisaram as três IAs de companhia atuantes no Brasil: Character.AI; Replika; e Chai.

O estudo constatou que as três não implementaram mecanismos eficazes de verificação etária e mantiveram a autodeclaração, o que permite acesso irrestrito de pessoas menores de idade. Realizada entre 29 de junho e 10 de julho de 2026, ou seja, depois da implementação do ECA Digital e do decreto que regulamenta a lei, o estudo empírico constatou que as plataformas ainda não atendem plenamente às exigências do estatuto bem como “à necessidade de informar sobre os potenciais riscos desses serviços à saúde ou segurança de crianças e adolescentes, nos termos do art. 9º do Código de Defesa do Consumidor”, diz a pesquisa. “Os resultados revelam risco concreto ao desenvolvimento físico, mental e psicossocial de crianças e adolescentes, exigindo atuação regulatória mais intensa”, continua.

Nos roteiros sobre conteúdo sexual, as barreiras inconsistentes. Os pesquisadores detectaram retomadas da conversa ou escaladas após sinais graduais e declarações explícitas de menoridade, além de variação entre personagens e possibilidade de contorno por pequenas mudanças na formulação dos prompts e mensagens. O estudo percebeu que, no Chai, o limite de mensagens impediu que alguns testes chegassem a conteúdo abertamente sexual, mas as respostas observadas ignoraram repetidamente sinais de menoridade e não demonstraram reação protetiva consistente.

O trabalho adotou a estratégia de walkthrough (passo-a-passo) como método para a coleta e análise dos dados e, além das IAs de companhia, avaliou quatro serviços de e-mail Gmail, Outlook, Proton Mail e Yahoo Mail. Os pesquisadores abriram contas falsas nessas plataformas se passando por crianças e adolescentes com o objetivo de se passarem por crianças e adolescentes que pretendiam ser adultos.

A pesquisa também avaliou serviços de e-mail como para verificar a facilidade de criação de contas por pessoas menores de idade e possibilidade de contornar mecanismos de controle etário.

Embora alguns desses serviços imponham restrições à abertura de contas infantis, foi possível criar contas declaradas como adultas sem comprovação adicional de idade. Quando e-mails configurados com idade inferior a 18 anos foram usados para entrar nas plataformas de IA, não houve diferença aparente no tratamento dado aos perfis.

Diante conversas com temas relacionados à automutilação e suicídio, Character.AI; Replika; e Chai adotaram respostas mais protetivas, como interrupção do diálogo, acolhimento ou orientação para buscar ajuda fora da internet. No entanto, em alguns momentos de interatividade, o sistema enfatizou a manutenção do vínculo afetivo com o personagem de IA, em vez de um procedimento estruturado de segurança.