Ação acusa TikTok de “experimentos fantasmas” com segurança de usuários

O TikTok realizou experimentos com recursos de segurança que não funcionavam para milhares de usuários, incluindo adolescentes e crianças, segundo alegações de uma ação judicial do Estado de Nova York tornadas públicas nessa quarta-feira (7).

A prática é descrita no processo movido pela procuradora-geral de Nova York, Letitia James , como experimentos “fantasmas” ou “placebo”, conforme relata o Valor Econômico .

A ação integra um conjunto de mais de duas dezenas de processos movidos por estados americanos que acusam o TikTok de projetar sua plataforma para viciar crianças e de enganar usuários sobre a segurança da ferramenta.

Como funcionavam os testes placebo Nos experimentos, o TikTok selecionou usuários que optaram por ativar recursos como o “Algo Refresh”, ferramenta criada para redefinir as recomendações e ajudar quem buscava evitar conteúdos indesejados ou potencialmente prejudiciais.

Segundo a ação, esses usuários acreditavam ter ativado o recurso, mas seus feeds não se alteraram.

Apenas os que receberam a versão plenamente funcional da ferramenta tiveram mudanças reais no conteúdo exibido.

A empresa realizou os testes repetidamente com milhares de usuários em 2023, comparando quem não recebeu o recurso com quem o recebeu para medir o tempo de permanência na plataforma e o impacto sobre a receita publicitária, de acordo com o processo.

O processo também alega que o TikTok enganou consumidores sobre o funcionamento da ferramenta, dizendo que ela redefiniria o algoritmo de recomendação de vídeos quando, na prática, a mudança era apenas temporária.

Um gerente de produto da área de bem-estar digital da empresa havia alertado internamente que a prática era problemática.

“Esse recurso diz respeito à transparência e ao controle do algoritmo”, escreveu o funcionário em uma conversa interna, segundo a ação.

“Um grupo placebo entra em completo conflito com isso”, acrescentou.

Leia também: Atraso da soberania de dados e governança são os entraves para a IA física no Brasil, declaram especialistas na Futurecom Adolescente morreu após receber conteúdos de suicídio O processo também abrange uma série separada de experimentos, revelados anteriormente em reportagem da Bloomberg .

Neles, o TikTok desativou, aleatoriamente, recursos de segurança que limitavam a exposição a conteúdos prejudiciais nas contas de usuários selecionados.

Um adolescente de Nova York que participou do teste se suicidou depois de receber conteúdos sobre automutilação e suicídio.