'Não fomos rápidos o suficiente', diz vice-presidente de Segurança do Discord sobre morte de menina

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

O vice-presidente de Segurança e Confiança do Discord , Jud Hoffman, admitiu, em entrevista ao jornal O Globo , falhas no processo do serviço no episódio que terminou com a morte de uma adolescente de 13 anos durante uma transmissão ao vivo .

"Não fomos rápidos o suficiente, mas estamos sempre trabalhando para melhorar esses modelos e os esforços de segurança", afirmou na entrevista publicada neste sábado (15).

A adolescente teria sido induzida por outros jovens à automutilação e ao suicídio . O caso ocorreu em 22 de julho em Mato Grosso do Sul.

Segundo Hoffman, a moderação na plataforma tem duas abordagens, proativa e reativa, e ambas combinam modelos de aprendizado de máquina com outras ferramentas de automação. Esse trabalho, ele afirma, é supervisionado por equipes treinadas para investigar e prevenir condutas como extremismo violento e exploração e abuso sexual infantil.

"Cerca de 15% da empresa está dedicada à segurança, com centenas de pessoas atuando em funções de moderação. Algumas trabalham no treinamento dos modelos, aprimorando-os continuamente. Também temos profissionais na minha equipe que entendem português e conhecem o mercado brasileiro. E seguimos investindo nisso", disse na entrevista.

Uma vez cadastrado no Discord, cada usuário tem um perfil próprio e pode participar de servidores —essencialmente, salas de chat— concebidos para grupos ou interesses específicos. Alguns servidores públicos têm milhões de membros, mas existem também servidores privados, que requerem convite para adesão e costumam ser comunidades menores.

De acordo com Hoffman, o servidor no qual foi transmitida a live da adolescente era pequeno e havia sido criado naquele mesmo dia.

"No caso da menina, o servidor era novo e pequeno. Tinha sido criado há menos de duas horas. As informações disponíveis não acionaram nosso modelo de aprendizado de máquina para encaminhá-lo à revisão humana ", afirmou.

O vice-presidente de Segurança do Discord disse também que o combate à violência no ambiente digital deve ser feito de forma colaborativa entre as diferentes redes sociais .

"Não é problema único do Discord ou de qualquer outra. Eles [grupos extremistas] vão explorar cada uma como podem. À medida que os descobrimos e os removemos do Discord, eles migram para outra. O verdadeiro sucesso é detê-los completamente, e não apenas expulsá-los do Discord."

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

Mais de 180 reportagens e análises publicadas a cada dia. Um time com mais de 200 colunistas e blogueiros. Um jornalismo profissional que fiscaliza o poder público, veicula notícias proveitosas e inspiradoras, faz contraponto à intolerância das redes sociais e traça uma linha clara entre verdade e mentira. Quanto custa ajudar a produzir esse conteúdo?