Novas IAs de Google e OpenAI são facilmente burladas para gerar nudes

Os modelos de inteligência artificial para geração de imagens desenvolvidos pelo Google e pela OpenAI apresentam falhas nos mecanismos de segurança que deveriam impedir a criação de conteúdo sexual explícito e nudes sem consentimento.

A conclusão é de pesquisadores da organização White Circle, que testaram as ferramentas DALL·E 3, Google Nano Banana 2 e GPT-Image-2.

Nos experimentos, os sistemas deixaram passar solicitações proibidas em cerca de 13% dos casos.

O estudo utilizou o Red-teaming via Iterative Strategy Evolution (RISE), método que automatiza tentativas sucessivas de encontrar brechas nos filtros de proteção .

A técnica emprega ferramentas gratuitas disponíveis na internet, incluindo um modelo Qwen baixado do Hugging Face para executar os ataques e o Gemini 3.8 Flash para avaliar os resultados.

Com essa estrutura, os pesquisadores enviaram solicitações por API que conseguiram contornar as restrições sem exigir conhecimentos técnicos avançados.

O cenário ficou ainda mais preocupante com versões recentes, como ChatGPT Images 2.5 e Nano Banana 2.1, que se mostraram mais vulneráveis a tentativas de burlar as proteções do que modelos anteriores.

Segundo a White Circle, os resultados representam a maior taxa de sucesso já registrada sob o mesmo padrão de testes, indicando que os mecanismos de segurança de grandes empresas de IA podem ser menos eficazes do que o esperado.

A facilidade de contornar essas barreiras também preocupa pelo potencial de disseminação de imagens íntimas falsas.

Uma pesquisa do Google citada pela Ars Technica aponta que 20% dos usuários que admitiram criar nudes com inteligência artificial fizeram isso “por diversão” ou “como uma brincadeira” .

Quase um terço afirmou que estava apenas experimentando a tecnologia.

Os dados sugerem que a criação desse tipo de conteúdo não se restringe a pessoas que procuram ferramentas com a intenção explícita de cometer abusos.

Para parte dos usuários, a curiosidade pode ser suficiente para iniciar a prática, especialmente quando as proteções técnicas são fáceis de contornar.

O problema também envolve a produção de material de abuso sexual infantil gerado por IA.