Violência online contra mulheres cresce com IA e falhas de regulação

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

Ter o espaço pessoal invadido em público não é novidade para mulheres. Ouvem "psiu", recebem olhares e comentários sobre o próprio corpo como parte da rotina. A diferença agora é que esse momento pode ser filmado e publicado nas redes para gerar ainda mais escrutínio, ou uma foto publicada nas próprias mídias sociais pode virar matéria-prima para um conteúdo sexual falso, colocando-a em um lugar que nunca existiu.

Escrevi nesta semana sobre como os óculos de inteligência artificial da Meta facilitam o assédio e a exposição de mulheres . Segundo estudo da Universidade de Sydney, 60% dos vídeos gravados com o acessório e divulgados na internet podem ser classificados como potenciais casos de assédio. Nesses casos, as mulheres demonstram desconforto visível ou tentam ir embora.

Os pesquisadores identificaram mulheres racializadas em 14% das filmagens, alvo de comentários racistas sobre seus corpos.

Estudos e especialistas têm apontado que a inteligência artificial, apesar dos avanços que promove, também amplia o risco ao qual as mulheres estão expostas.

Relatório da ONU Mulheres publicado em abril ouviu 641 mulheres em 119 países: 12% relataram compartilhamento não consensual de imagens íntimas, 6% foram alvo de deepfakes e quase um quarto teve ansiedade ou depressão ligadas à violência online.

A organização adotou o termo violência de gênero facilitada pela tecnologia para descrever esses casos. Já os pesquisadores da Universidade de Sydney falam em uma tecnologia que avança mais rápido do que a regulamentação.

No Reino Unido, o Guardian mostrou em agosto que o Report Remove recebeu 420 denúncias de menores sobre deepfakes no primeiro semestre, mais que em todo o ano passado.

Após o STF reinterpretar o Marco Civil, o governo Lula editou decreto que trata deepfakes sexuais como violação. Nesta semana, a ANPD (Agência Nacional de Proteção de Dados) multou o TikTok em R$ 153,7 milhões por falhas na proteção de dados de crianças e adolescentes.

Em texto publicado em junho na Folha , professoras de direito digital lembraram que a Meta retirou , em 2025, a regra que proibia comparar mulheres a objetos ou propriedades em nome da liberdade de expressão.

Para a ONU Mulheres, a autorregulação das plataformas não funcionou. A entidade defende leis com definições claras sobre abuso gerado por IA, prazos curtos de remoção de conteúdo e sistemas de justiça equipados para investigar provas digitais com mais agilidade.

Todas essas questões não são danos colaterais ou falhas do sistema, diz Daniela da Silva. Segundo ela, "são simples características de como esse sistema funciona". "O sistema em seu pleno funcionamento oferecendo riscos constantes para mulheres e crianças".

Para evitar que a tecnologia não pense nos direitos das mulheres, é preciso que elas participem de sua construção.