Discord reconhece que não identificou, a tempo, risco na transmissão ao vivo que terminou com morte de menina de 13 anos

O Discord reconhece que não identificou, a tempo, risco na transmissão que terminou com a morte de uma menina de 13 anos O Discord reconheceu que seus sistemas não identificaram, a tempo, o risco na transmissão ao vivo que terminou com a morte de uma menina de 13 anos.

As lives da plataforma estão suspensas até que a empresa prove que adotou medidas para proteger crianças e adolescentes.

A afirmação está em um documento enviado pelo Discord ao Ministério da Justiça durante o processo que levou à suspensão das atividades ao vivo em servidores privados.

Na semana passada, a Agência Nacional de Proteção de Dados cobrou explicações da plataforma sobre a morte da adolescente ameaçada e induzida a cometer automutilação e suicídio durante uma live. 📱Favorite o g1 no Google e acompanhe as principais notícias do dia No documento enviado ao governo, o Discord admitiu que o sistema de proteção não detectou a gravidade do caso e que só derrubou o servidor responsável pela transmissão 25 minutos depois de a Polícia Civil emitir o primeiro alerta de risco iminente de morte ou lesão corporal.

Foram quase duas horas entre o início e a derrubada da live.

A transmissão começou às 2h20 de 22 de julho.

Segundo o Discord, a primeira comunicação da polícia foi às 3h50, e a retirada do servidor ocorreu às 4h15.

Discord reconhece que não identificou, a tempo, risco na transmissão ao vivo que terminou com morte de menina de 13 anos Jornal Nacional/ Reprodução O Discord afirmou que só "após revisão posterior ao incidente foram identificados elementos associados a um ecossistema mais amplo de alto dano”; que “no momento do incidente, os sinais disponíveis foram processados, mas não geraram alerta com nível de confiança suficiente para aplicação automatizada”.

A detecção de risco nas lives do Discord é feita por inteligência artificial.

Quando o risco atinge determinado nível, o sistema emite alertas para que equipes de moderação atuem.

Na live que levou à morte da adolescente, segundo o Discord, os registros internos mostraram uma pontuação de risco de 0,12, ao passo que o limiar aplicável para identificação automatizada era de 0,95.

A empresa disse que "esse resultado está sendo reexaminado, inclusive para avaliar possíveis aprimoramentos nos critérios de priorização, na sensibilidade dos modelos e no equilíbrio entre capacidade de detecção e incidência de falsos positivos".

GloboPop: clique para ver os vídeos do palco do Jornal Nacional LEIA TAMBÉM Discord admite falha em sistema de alerta em live que vitimou menina de 13 anos 'Eu só peço que olhem como um alerta', diz mãe de menina de 13 anos induzida ao suicídio no Discord Suspensão do Discord: empresa chama decisão da ANPD de 'prematura' e diz que crimes foram coordenados fora da plataforma