'Companheiros de IA': governo pede investigação contra chatbots que simulam amizade e romance

Character.AI, plataforma de inteligência artificial para criar personagens que se passam por pessoas reais Divulgação/Character.AI O Ministério da Justiça e Segurança Pública (MJSP) recomendou nesta segunda-feira (21) que a Agência Nacional de Proteção de Dados (ANPD) avalie os riscos dos chamados "companheiros de IA", personagens criados em plataformas de inteligência artificial para simular amizade, companheirismo e até romance com usuários.

Em uma nota técnica, a Secretaria Nacional de Direitos Digitais (Sedigi), vinculada ao Ministério, sugeriu que a agência reguladora examine esses serviços à luz do Estatuto Digital da Criança e do Adolescente (ECA Digital) e de suas competências de fiscalização. 🗒️ Tem alguma sugestão de reportagem? Mande para o g1 O documento não afirma que as plataformas cometeram infrações, mas aponta indícios de "desconformidades" após uma análise de 13 serviços de companheiros de IA.

Os serviços avaliados foram Character.AI, Replika, Nomi, Candy.ai, Kindroid, Chai, Paradot, Talkie, CrushOn.AI, EVA AI, Anima, Swipey e SpicyChat.AI.

O próprio Ministério da Justiça afirma que a análise é preliminar.

Agora no g1 A análise do Ministério da Justiça faz parte das ações do governo para implementar o ECA Digital, lei que impõe deveres de proteção e segurança no uso de plataformas e outros serviços digitais por crianças e adolescentes.

Entre os pontos que o governo considera merecer investigação estão a verificação de idade, o risco de uso excessivo ou compulsivo, a exposição a conteúdo inadequado e o uso de dados para traçar perfis emocionais e comportamentais.

"Os achados técnicos indicam que a maior parte dos serviços analisados adota a autodeclaração como único mecanismo de aferição de idade", disse a secretaria.

"Assim, a facilidade com que a autodeclaração é contornada não configura apenas deficiência do dever de aferição etária.

Ela constitui, também, elemento indicativo do acesso provável, que submete o serviço ao conjunto das obrigações da lei", acrescentou.

Plataformas de personagens de IA possuem características diferentes, mas podem guardar o histórico das conversas, adaptar respostas ao usuário, simular personalidade e emoções e, em alguns casos, oferecer amizade, romance e conteúdo adulto.

O documento recomenda ainda que o assunto seja analisado pela Secretaria Nacional do Consumidor (Senacon), para examinar possíveis problemas na forma como as plataformas usam publicidade, monetização e informações sobre os usuários.