Pontuação 0,12: vidas jovens como riscos estatísticos aceitáveis para o Discord

Em 22 de julho de 2026, em Naviraí (MS), morreu uma adolescente de 13 anos, supostamente induzida por outros jovens à automutilação e ao suicídio, transmitindo cenas por um servidor do Discord.

Em 12 de agosto, a Agência Nacional de Proteção de Dados (ANPD) determinou, em sua Nota Técnica nº 1/2026/CGF/SFI/ANPD, a suspensão em todo o território nacional da funcionalidade “Go Live ” e de recursos similares de transmissão de vídeo, ao menos até que o Discord comprove a adoção de medidas eficazes aos riscos evidenciados, sobretudo para crianças e adolescentes.

O prazo, até dia 17 de agosto, foi cumprido, segundo a plataforma, embora não encerre a questão.

O episódio é recente, mas a discussão, não: relembramos que, em abril de 2025, ataques a pessoas em situação de rua, em quatro estados brasileiros, teriam sido convocados pelo Discord, segundo investigações policiais noticiadas pelo jornal O Globo.

A plataforma também já foi palco para extremistas planejarem atentados terroristas no mundo todo.

No mesmo mês, diversas organizações da sociedade civil e políticos se manifestaram em prol da suspensão temporária do Discord no Brasil.

Para além de 2025, trata-se de um debate que a literatura de moderação de conteúdo já vinha travando há ainda mais tempo: até que ponto é tecnicamente possível – e institucionalmente responsável – confiar em sistemas automatizados para a detecção de violações graves em transmissões que acontecem em tempo real, em vídeo e/ou áudio? O Discord enviou, em resposta a questionamentos da Secretaria Nacional de Direitos Digitais, um documento revelador, segundo o qual seu sistema atribui uma pontuação de risco a cada transmissão.

A live antes da morte da adolescente recebeu pontuação de 0,12, ao passo que o limiar para acionamento automatizado dos recursos de proteção é de 0,95.

A Nota Técnica da ANPD é clara: a plataforma “depende de sistemas automatizados falhos e de denúncias pelos próprios participantes desses ambientes voltados à prática dessas violações”.

Se um evento tão grave recebeu sinalização de risco tão baixa, é óbvio que o sistema não estava bem calibrado (e, adianto: jamais estará da forma como é configurado atualmente).

Conforme registra o documento, “quando estão em questão o risco iminente de lesão grave, automutilação ou morte de criança ou adolescente, o custo de um falso negativo é incomparavelmente superior ao custo de submeter determinado servidor a análise humana adicional”.

A analogia do prédio, trazida pelo jornalista Pedro Doria em seu ensaio no Globo, defendendo que banir não é a solução pois seria demolir o prédio inteiro por falha na portaria, esconde o dono do prédio: ela ignora quem lucra com a omissão.