'Detetives da web' da Coreia do Sul ajudam vítimas de deepfakes e violência sexual online

O avanço dos conteúdos gerados por IA (Inteligência Artificial) traz um desafio proporcionalmente grande em relação à fiscalização, sobretudo dos chamados "deepfakes sexuais" (fotos ou vídeos de caráter pornográfico, produzidos sem o conhecimento das vítimas). A Coreia do Sul, onde isso tem ocorrido com frequência, vem tentando combater esse tipo de crime cibernético há anos, bem antes do boom da IA.

Em 2018, o governo sul-coreano criou um centro composto exclusivamente por mulheres encarregadas de rastrear e eliminar esses conteúdos ilícitos na internet. Em um pequeno escritório no centro da capital Seul, decorado com faixas de apoio às vítimas de violência sexual, trabalham as "detetives da web". O grupo é formado ao todo por 23 mulheres encarregadas de remover esses vídeos de caráter sexual a pedido das vítimas.

"A maioria das vítimas nos procura depois que um ente querido lhes diz que um vídeo delas está circulando na internet. Contamos com um programa de inteligência artificial que detecta as republicações desse mesmo vídeo na internet, o que nos permite remover esses conteúdos tanto nas redes sociais quanto em sites pornográficos", explica a líder da equipe, Kim Hyojung.

Levantamentos, como o que foi feito pela empresa australiana Security Heroes, estimam que mais da metade das vítimas de deepfakes pornográficos no mundo sejam sul-coreanas. Essa tendência está aumentando em todas as faixas etárias.

Além da remoção de conteúdos, o centro e suas 17 filiais regionais oferecem apoio psicológico e jurídico às vítimas, que vêm aumentando cada vez mais. Desde sua inauguração, o centro já atendeu 53 mil pessoas e removeu da internet mais de 1 milhão de conteúdos sexuais ilícitos, um trabalho necessário que, muitas vezes, encontra obstáculos desafiadores.

"A maioria dos vídeos está hospedada em sites ilegais. Por isso, o provedor de hospedagem não aprova nosso pedido de remoção. Nesse caso, a polícia pode intervir e fazer com que o site em questão seja fechado. Também existe o problema dos sites hospedados no exterior, mas, em 80% dos casos, eles estão nos Estados Unidos, e as autoridades norte-americanas colaboram conosco para remover esses conteúdos hospedados em seu território", acrescenta Kim Hyojung.

O foco do trabalho das "detetives da web" é voltado para conteúdos pornográficos, às vezes violentos, às vezes de pornografia infantil, que as mulheres do centro têm de revisar todos os dias para removê-los. Tudo isso gera uma carga emocional para as profissionais envolvidas nas sondagens. Park, que precisa manter o anonimato para realizar seu trabalho, explica o impacto que isso pode ter em sua saúde.

"Todas nós somos bastante afetadas emocional e psicologicamente por essa atividade. Pela experiência de colegas com quem já trabalhei, algumas desenvolveram insônia , outras começaram a chorar ao ver certas publicações ou perderam o apetite a ponto de pular refeições".

Para apoiar as 23 mulheres encarregadas de remover esses conteúdos, o centro implementou um acompanhamento psicológico contínuo, explica Park.

"Temos, uma ou duas vezes por mês, consultas individuais com um psicólogo para prevenir o esgotamento.