Discord admite falha em sistema de segurança após morte de adolescente e tem lives suspensas no Brasil

O Discord admitiu, em resposta ao Ministério da Justiça e Segurança Pública, que seu sistema de alerta automático para conteúdos sensíveis durante transmissões ao vivo falhou no caso de uma adolescente de 13 anos que foi induzida à automutilação e cometeu suicídio.

A falha, revelada em documento obtido pelo O Estado de S.

Paulo, pelo GLOBO e pela GloboNews, levou a Agência Nacional de Proteção de Dados (ANPD) a determinar, nesta quarta-feira (12), a suspensão das lives da plataforma em território brasileiro .

A transmissão durou quase duas horas antes de ser derrubada, e o servidor onde ocorreu recebeu pontuação de risco de apenas 0,12 , muito abaixo do limiar de 0,95 exigido para acionamento automático.

Discord admite falha em sistema de alerta Em documento enviado ao Ministério da Justiça e Segurança Pública, o Discord reconheceu que seu sistema de monitoramento, projetado para identificar padrões associados a conteúdos de alto dano e acionar revisão humana, não funcionou durante a transmissão em que a adolescente foi induzida à automutilação.

A atividade no canal teve início por volta das 2h20 da madrugada de 22 de julho.

O servidor só foi removido às 4h15, após alerta da polícia, totalizando quase duas horas de live antes da derrubada.

Segundo o documento, o servidor recebeu uma pontuação de risco de 0,12 , muito abaixo do limiar de 0,95 necessário para a identificação automatizada.

A plataforma afirmou que nomes, rótulos de papéis e comunicações em texto usados pelos criadores do servidor teriam “mascarado” sua real intenção.

“No momento do incidente, esses sinais não acionaram, de forma isolada ou combinada, aplicação automatizada ou revisão humana imediata”, diz trecho do documento obtido pelo O Estado de S.

Paulo e pelo GLOBO.

ANPD suspende lives no Brasil A Agência Nacional de Proteção de Dados determinou a suspensão das transmissões ao vivo do Discord em território brasileiro por meio de medida preventiva, com prazo de três dias úteis para cumprimento.

A ordem atinge apenas a funcionalidade de lives e não retira a plataforma do ar.

A decisão, baseada no ECA Digital, é inédita no Brasil e valerá até que o Discord comprove a adoção de ferramentas efetivas de proteção a crianças e adolescentes.