Discord cita TikTok e Telegram como plataformas em que morte de menina teria sido articulada

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

Segundo a empresa, a existência de interações fora de sua plataforma ajudaria a explicar por que seus sistemas não identificaram o risco de imediato .

O TikTok nega que tenham ocorrido atividades de coordenação ligadas ao caso em sua plataforma. Em nota, a empresa afirmou ter realizado buscas sobre o episódio e disse não ter encontrado indícios de que o incidente tenha sido articulado ou de que usuários tenham sido redirecionados a ele por meio da rede social.

A ANPD (Agência Nacional de Proteção de Dados) determinou na quarta-feira (12) que o Discord suspenda as transmissões ao vivo em sua plataforma após o caso da adolescente , que teria sido induzida por outros jovens à automutilação e ao suicídio, com cenas transmitidas pela plataforma. A empresa tem três dias úteis para cumprir a determinação.

"Essa circunstância é relevante para reconstruir a cronologia e compreender quais sinais estavam disponíveis à Discord antes do incidente", disse.

Como a Folha mostrou, o Discord admitiu em documento enviado ao governo federal que havia indícios de risco na transmissão ao vivo que teria culminado na morte de uma menina , mas que isso não foi suficiente para disparar um alerta confiável no sistema interno da plataforma.

O texto, datado de 10 de agosto, é uma resposta a perguntas da Secretaria Nacional de Direitos Digitais, vinculada ao Ministério da Justiça. O órgão questionou a empresa sobre a transmissão ao vivo.

No documento, a empresa disse que seu sistema trabalha com uma pontuação de risco. A transmissão específica teria recebido pontuação de 0,12, enquanto o limite para identificação automatizada é de 0,95.

O Discord afirmou que o resultado está sendo reexaminado e poderá servir para avaliar eventuais aprimoramentos na sensibilidade do sistema, buscando um equilíbrio entre a capacidade de detecção e a produção de falsos positivos.

A empresa afirmou ainda ter recebido uma comunicação de um órgão de segurança sem muitas informações às 3h50. E que, menos de 25 minutos depois, o servidor da transmissão foi removido.

Nota técnica da ANPD concluiu que o Discord não tem ferramentas que viabilizem mecanismos de análise de conteúdo e detecção de violações em tempo real. De acordo com o documento, a plataforma "depende de sistemas automatizados falhos e de denúncias pelos próprios participantes desses ambientes voltados à prática dessas violações".

"O caso relatado pela empresa [...] evidencia falha grave no modelo implementado, uma vez que fato gravíssimo recebeu uma sinalização de risco erroneamente baixa porque o sistema automatizado de detecção não foi bem calibrado", afirma.

O documento também diz que a possibilidade de haver falsos positivos nas notificações de violação, caso o sistema fique mais sensível, não justifica a falha.