'Não fomos rápidos o suficiente', diz Discord sobre adolescente morta

O Discord admite que não agiu rápido o suficiente para impedir um caso que terminou com a morte de uma adolescente brasileira durante uma transmissão na plataforma.

Entrevista do vice-presidente de Segurança e Confiança do Discord, Jud Hoffman, ocorre após a ANPD suspender as lives do serviço no Brasil. Ele disse ao O GLOBO que a empresa vai cumprir a determinação e aplicar o bloqueio em todos os recursos de vídeo disponíveis no país.

A ANPD fez o que acredita ser necessário. Nossa abordagem no momento é trabalhar na implementação dessa ordem. A suspensão será aplicada de forma consistente em todos os lugares onde existe vídeo no Discord no Brasil. Jud Hoffman, vice-presidente de Segurança e Confiança do Discord, ao O GLOBO

Hoffman afirmou que a plataforma tem moderação proativa e reativa, combinando automação e equipes especializadas. Ele disse que cerca de 15% da empresa atua em segurança, com centenas de pessoas em funções de moderação, e que há profissionais que entendem português e conhecem o mercado brasileiro.

Executivo atribuiu parte da dificuldade à escala e ao equilíbrio entre detectar mais riscos e evitar falsos positivos. Ele afirmou que sinais iniciais podem vir de denúncias de usuários ou de autoridades e que modelos de aprendizado de máquina ajudam a priorizar o que vai para revisão humana.

Como eu disse, esses modelos trabalham em conjunto com nossas equipes especializadas. Às vezes, o primeiro sinal vem de denúncias de usuários ou das próprias autoridades policiais. Os modelos pontuam os servidores com base nos sinais disponíveis e são calibrados para equilibrar precisão e abrangência. Jud Hoffman, vice-presidente de Segurança e Confiança do Discord, ao O GLOBO

Discord diz que o servidor ligado ao caso era novo e pequeno e não foi sinalizado a tempo para revisão humana. Hoffman afirmou que a empresa trabalha para melhorar os modelos e os esforços de segurança após o episódio.

No caso da menina, o servidor era novo e pequeno. Tinha sido criado há menos de duas horas. As informações disponíveis não acionaram nosso modelo de aprendizado de máquina para encaminhá-lo à revisão humana. Não fomos rápidos o suficiente, mas estamos sempre trabalhando para melhorar esses modelos e os esforços de segurança. Jud Hoffman, vice-presidente de Segurança e Confiança do Discord, ao O GLOBO

Questionado sobre a criptografia de ponta a ponta em chamadas de voz e vídeo, Hoffman disse que o recurso não torna servidores invisíveis à empresa. Ele afirmou que textos não são criptografados e que metadados, convites, denúncias e uploads seguem visíveis para os sistemas de segurança.

Bloqueio determinado pela ANPD, segundo Hoffman, vale para diferentes formatos de vídeo dentro do Discord no Brasil. Ele citou canais de voz com vídeo, mensagens diretas, grupos de mensagens diretas, palcos e o recurso Go Live.

Executivo disse que a empresa se reuniu com a ANPD e prometeu enviar esclarecimentos completos sobre o caso.