TikTok teria dado recurso de segurança falso a crianças e adolescentes em teste

O TikTok realizou testes nos quais milhares de usuários, incluindo crianças e adolescentes , teriam recebido versões falsas de recursos de segurança da plataforma, segundo acusações apresentadas pelo Estado de Nova York (EUA) em processo contra a empresa.

Os testes envolveriam ferramentas, como o Algo Refresh , recurso criado para permitir que usuários reiniciem suas recomendações e tentem escapar de conteúdos indesejados ou potencialmente prejudiciais.

De acordo com a ação, os usuários selecionados para os chamados testes “fantasmas” ou de placebo acreditavam ter ativado a ferramenta.

Na prática, porém, seus feeds não eram alterados como acontecia com pessoas que receberam a versão funcional do recurso.

As acusações fazem parte de uma versão atualizada da ação movida pela procuradora-geral de Nova York, Letitia James.

O processo foi originalmente apresentado em 2024 e teve trechos mantidos sob sigilo até que um juiz determinasse sua divulgação.

Testes buscavam medir engajamento e publicidade Segundo a ação, o TikTok repetiu os experimentos em 2023 com milhares de usuários; A empresa teria comparado pessoas que receberam a versão funcional do Algo Refresh com aquelas que receberam a versão placebo para avaliar fatores como tempo de permanência na plataforma e receita publicitária ; Uma gerente de produto da área de Bem-Estar Digital do TikTok teria questionado internamente a realização dos testes.

Segundo a ação, a funcionária afirmou que o recurso estava relacionado à transparência e ao controle do algoritmo e que um grupo de placebo entraria em conflito com essa finalidade; A preocupação teria sido registrada em uma conversa interna da empresa; O processo também acusa o TikTok de apresentar o Algo Refresh de maneira enganosa.

Segundo Nova York, a plataforma dizia aos usuários que a ferramenta redefiniria o algoritmo de recomendações, enquanto seu efeito seria apenas temporário.

Outro teste teria desativado recursos de segurança Os documentos divulgados também apresentam acusações sobre outro experimento realizado pelo TikTok, anteriormente revelado pela Bloomberg .

Nesse caso, usuários teriam sido selecionados aleatoriamente para não receber determinados recursos de segurança destinados a limitar a exposição a conteúdos prejudiciais.

Segundo a ação, um adolescente de Nova York que fazia parte desse grupo morreu por suicídio depois de receber conteúdos relacionados a automutilação e suicídio.

Uma análise interna teria indicado que o jovem foi exposto a uma quantidade excessiva desse tipo de material.

A relação entre o experimento e a morte, contudo, aparece no processo como uma alegação e não como uma conclusão judicial estabelecida.