Bloquear plataformas como o Discord tem efeito prático? NÃO

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

Fundador e presidente da SaferNet Brasil; foi conselheiro do CGI.br, do NIC.br e diretor do Inhope, associação global de canais de denúncia

Em setembro de 2023, o vice-presidente de relações públicas do Discord esteve no Brasil. A pedido dele, fui a São Paulo para uma reunião de três horas. O país ainda estava em choque com reportagens do Fantástico, que expuseram ao grande público o que os canais de denúncia e as autoridades veem todos os dias: violência extrema, abuso sexual de crianças e bebês, imagens gráficas de suicídio, automutilação e maus-tratos a animais . O Brasil engatinhava na regulação de plataformas, e ele me dizia que a prioridade da empresa no país era atender os pedidos das autoridades.

Desde a tragédia recente que vitimou uma adolescente de 13 anos em Naviraí (MS) —a jovem foi induzida por integrantes de um grupo que atuava na internet a praticar automutilação e tirar a própria vida durante uma transmissão ao vivo realizada na plataforma , segundo a polícia—, o Brasil acelerou de zero a 100 em 15 dias na implementação do ECA Digital .

Proibição de transmissões ao vivo é insuficiente; descontrole justifica interdição

A ANPD ( Agência Nacional de Proteção de Dados ), que ainda se estrutura para fiscalizar a lei, agiu rápido. De maneira técnica e acertada , determinou a suspensão, pela própria plataforma, do Go Live —funcionalidade usada no Brasil para transmitir crimes bárbaros, envolvendo abuso e extorsão sexual, ataques às escolas, automutilação e suicídio, sem que os abusos sejam detectados. As demais funcionalidades seguem funcionando normalmente.

O Discord é uma empresa de capital fechado com cerca de mil funcionários e 200 milhões de usuários ativos por mês; adolescentes, em grande parte. Foi avaliada em US$ 15 bilhões em 2021 e tem receita anual de US$ 875 milhões. Não é, portanto, uma padaria ou microempresa.

A própria companhia vem declarando desde 2022 à eSafety Commission, órgão regulador australiano análogo à ANPD, que não implementa ferramentas de segurança no Go Live por ter um custo proibitivo. É a única plataforma que alega abertamente motivação financeira para não fazê-lo. Trata-se de decisão de negócio, consciente e deliberada, que tem gerado um custo social altíssimo, por vezes impagável.

As ferramentas de detecção de abusos em lives existem, são compatíveis com a criptografia de ponta a ponta (E2EE) e são usadas por YouTube, Meta , Microsoft e TikTok . Uma delas foi desenvolvida com recursos do fundo Safe Online ao custo de US$ 200 mil, valor irrisório para uma empresa multibilionária.

Ao final daquela reunião de 2023, disponibilizei gratuitamente um dataset da SaferNet Brasil com centenas de sinais usados por outras plataformas na detecção de abuso infantil e pedi ao executivo que convencesse os acionistas a investir nas ferramentas de detecção.