Caso Discord mostra por que o Brasil precisa governar algoritmos e plataformas

A decisão da Autoridade Nacional de Proteção de Dados ( ANPD ) de suspender temporariamente as transmissões ao vivo do Discord no Brasil foi motivada por uma tragédia: a morte de uma adolescente de 13 anos, que teria sido incentivada por integrantes de uma comunidade online a cometer atos de violência contra si mesma.

As investigações ainda precisarão esclarecer a responsabilidade de cada empresa, mas o percurso já revela uma deficiência fundamental na maneira como regulamos as plataformas.

A transmissão ocorreu no Discord , mas os indícios disponíveis apontam para uma trajetória que atravessou diferentes plataformas.

Redes como TikTok e Instagram teriam sido usadas para divulgação e contato, enquanto Telegram e o próprio Discord ofereciam espaços mais fechados para organização, intensificação e coerção.

Conheça o JOTA PRO Poder, plataforma de monitoramento que oferece transparência e previsibilidade para empresas Cada serviço observa apenas um fragmento do processo e pode alegar que o dano começou ou terminou em outro lugar.

No conjunto, porém, formam uma cadeia capaz de localizar pessoas vulneráveis, aproximá-las de comunidades perigosas e transportá-las para ambientes progressivamente menos visíveis.

É por isso que remover conteúdo ou suspender contas, embora necessário, já não basta.

A moderação tradicional pergunta se determinada publicação viola as regras e deve ser retirada – muitas vezes após um crime ter ocorrido e quando já é tarde demais para evitar seus efeitos negativos.

Mas, é óbvio, devemos também evitar medidas como censura prévia ou filtros de upload, ou seja, cada conteúdo adicionado a uma rede social seria previamente verificado (possivelmente por IA ) para saber se respeita ou não as regras.

Uma alternativa seria a governança algorítmica.

Ela faz perguntas anteriores e mais importantes: por que aquele conteúdo foi mostrado àquela pessoa? Por que voltou a aparecer? Que sinal fez o sistema interpretar choque ou curiosidade como interesse? A plataforma recomendou conteúdos progressivamente mais extremos? Seu desenho facilitou o contato entre recrutadores e usuários vulneráveis? A busca por engajamento prevaleceu sobre sinais de perigo? Governar algoritmos não significa entregar ao Estado o poder de decidir o que cada pessoa pode ler ou dizer.

Significa retirar das empresas o controle exclusivo e opaco sobre sistemas que organizam a atenção de milhões de pessoas.

Significa ainda não esperar boa vontade das big techs e nem ficar refém de ameaças de governos estrangeiros, como no caso recente em que os EUA acusaram o Brasil de censura pelo X, antigo Twitter, ter mudado o algoritmo para as eleições – quando, na verdade, ganhou-se transparência.