TikTok eliminó una función de seguridad a millones de usuarios para hacer una prueba. Uno de ellos acabó suicidándose

El A/B testing es una práctica habitual en cualquier producto digital.

Consiste en dividir a los usuarios en dos grupos para comparar una versión nueva frente a la anterior y medir su impacto.

Es lo que hizo en TikTok cuando modificó su algoritmo con el objetivo de reducir el contenido dañino que se mostraba.

Uno de los usuarios a los que no activaron esta salvaguarda se acabó suicidando.

Se llamaba Chase Nasca y tenía 16 años.

El test .

Lo cuentan en Bloomberg .

TikTok mejoró su algoritmo a principios de 2022 y desplegó esta versión para la gran mayoría de sus usuarios.

Este cambio tenía como objetivo principal reducir los bucles de contenido dañino, detectando patrones repetitivos y diversificaba un poco más el feed.

El algoritmo anterior que no tenía este cambio siguió activo para el grupo de control, que era aproximadamente el 10% de todos los usuarios estadounidenses, unos 15 millones de personas en total.

El caso de Chase Nasca .

Su cuenta había sido una de las elegidas de forma aleatoria para formar parte de ese grupo de control, por lo que las nuevas medidas de seguridad no estaban activadas.

El resultado fue que Chase Nasca fue bombardeado con vídeos sobre suicidio, autolesiones y depresión.

Según un documento confidencial, el cual se ha conocido en el contexto de una demanda judicial, en las dos semanas previas a su muerte, TikTok recomendó a Chase 7.563 vídeos, de los cuales al menos el 73% trataba sobre sufrimiento emocional, soledad o depresión.