China restringe chatbots que simulam namoros e amizades virtuais

Atenção: a matéria a seguir inclui uma discussão sobre suicídio.

Se você ou alguém que você conhece precisar de ajuda, procure apoio especializado.

O Centro de Valorização da Vida (CVV) funciona 24 horas por dia pelo telefone 188.

Também é possível conversar por chat ou e-mail.

A China estabeleceu regras rigorosas para chatbots que imitam amigos, namorados e outros vínculos afetivos.

O governo pretende reduzir riscos de dependência emocional, manipulação psicológica e isolamento social.

As normas impõem limites ao acesso de menores e novas obrigações às empresas de tecnologia.

A medida, porém, levanta uma questão delicada: como proteger os usuários sem ampliar o controle estatal sobre a vida privada? Pesquisa com estudantes chineses apontou que uma em cada cinco crianças preferia conversar apenas com a inteligência artificial. – Imagem: ofc pictures/iStock O que muda para os usuários As regras abrangem aplicativos criados para oferecer companhia e modelos de linguagem capazes de simular interações emocionais.

Dependendo da forma de uso, até assistentes semelhantes ao ChatGPT e ao Copilot podem ser afetados.

Entre as principais exigências estão: Identificação da IA: os sistemas devem deixar claro que o usuário está conversando com uma máquina.

Limites de comportamento: os chatbots não podem incentivar suicídio ou automutilação, nem recorrer à violência verbal.

Proteção contra manipulação: os serviços não devem estimular dependência emocional ou induzir decisões irracionais.

Restrições para menores: crianças com menos de 14 anos precisam de autorização dos pais para usar IAs que imitam conversas humanas.

Menores de 18 anos não podem acessar parceiros amorosos, cônjuges ou familiares virtuais.