ONU alerta para riscos do uso de IA na violência contra mulheres

O Comitê da ONU para a Eliminação da Discriminação contra as Mulheres (Cedaw) pediu que os países adotem medidas para combater estereótipos de gênero .

A entidade alerta que tecnologias como a inteligência artificial (IA) podem ampliar a violência digital e reproduzir preconceitos que afetam a vida das mulheres.

Em uma nova diretriz, o comitê defende mudanças nas leis, nas plataformas digitais e nas práticas institucionais para enfrentar a discriminação em diferentes áreas da sociedade.

A ONU defende que plataformas digitais criem canais diretos e ágeis para a remoção de conteúdos discriminatórios. – Imagem: sebra/Shutterstock IA pode ampliar a violência digital O Cedaw demonstrou preocupação com o uso de ferramentas de IA generativa e de sistemas autônomos, conhecidos como agentes de IA , para facilitar agressões na internet.

Entre os riscos estão a criação de imagens e vídeos sexualizados sem consentimento, fraudes de identidade, extorsão sexual e ataques contra mulheres em cargos de liderança.

Os chamados deepfakes são imagens, vídeos ou áudios manipulados ou gerados com inteligência artificial.

Para enfrentar esses abusos, o comitê recomenda medidas que ampliem a transparência e a responsabilidade das empresas e dos governos.

Entre as propostas estão: Estabelecer mecanismos de responsabilização pelo uso abusivo de sistemas de IA.

Garantir supervisão independente sobre essas tecnologias.

Assegurar revisão humana de decisões automatizadas.

Criar procedimentos para denunciar e remover conteúdos discriminatórios nas plataformas digitais.

Preconceitos também afetam a Justiça e a saúde Os estereótipos de gênero também podem influenciar o funcionamento das instituições.

Na Justiça, por exemplo, preconceitos podem interferir na avaliação do testemunho das mulheres e nas decisões dos tribunais, contribuindo para erros judiciais.

O Cedaw defende a revisão de leis e práticas que tratam a violência como um assunto privado ou familiar, responsabilizam as vítimas pelas agressões sofridas ou justificam a violência masculina.