Teste secreto do TikTok resulta em tragédia com a morte de um jovem de 16 anos

Uma experiência realizada pelo TikTok acabou por expor um jovem a milhares de vídeos nocivos, culminando no seu suicídio. O caso revela o impacto extremo dos testes de software nas redes sociais sem salvaguardas adequadas.

No desenvolvimento de plataformas digitais, a realização de testes comparativos, conhecidos como testes A/B, é uma prática corrente para avaliar novas funcionalidades. O TikTok utilizou este método quando decidiu atualizar o seu algoritmo para mitigar a exibição de conteúdos prejudiciais .

No entanto, para validar a eficácia da nova versão, a empresa manteve cerca de 10% dos utilizadores norte-americanos no grupo de controlo, expostos à versão antiga. Esta decisão deixou milhões de pessoas, incluindo o jovem Chase Nasca, de 16 anos, totalmente desprotegidas contra conteúdos altamente tóxicos .

Por uma seleção puramente aleatória, a conta de Chase foi inserida no grupo de controlo que não recebeu as novas barreiras de segurança. O resultado foi uma espiral destrutiva de publicações sobre depressão, automutilação e suicídio .

Documentos confidenciais revelados num processo judicial mostram que, nas duas semanas anteriores à sua morte, o algoritmo recomendou-lhe mais de 7500 vídeos, sendo que a esmagadora maioria abordava a dor emocional. Pior ainda, uma percentagem significativa destas publicações violava as próprias diretrizes da plataforma .

A análise interna realizada pela própria rede social confirmou que as medidas de prevenção contra bolhas de filtros não foram aplicadas ao jovem devido ao desenho do próprio teste .

Esta admissão reforça as críticas de reguladores e famílias que acusam as tecnológicas de projetarem intencionalmente sistemas viciantes para reter a atenção dos mais jovens .

Embora o adolescente procurasse inicialmente temas inofensivos, bastou uma breve pesquisa sobre solidão para que o algoritmo o direcionasse para um caminho sem retorno, o que gerou um isolamento digital extremamente perigoso .

Apesar de ter conhecimento detalhado sobre este caso, a liderança do TikTok manteve uma postura defensiva perante o Congresso dos Estados Unidos, afirmando não acreditar que a plataforma pudesse ser responsabilizada por tais tragédias .

Recentemente, a empresa lamentou a perda e reiterou que continua a investir em sistemas de segurança proativos. Contudo, para muitos críticos, estas declarações surgem tarde demais para mitigar os danos de uma política de testes que coloca métricas de envolvimento acima da preservação da vida humana .

Mulher acusa padrasto de utilizar o Grok para transformar fotos suas em imagens explícitas