Apple cambia las reglas de App Store contra apps que generan imágenes íntimas con IA

Apple actualizó las reglas de la tienda App Store para prohibir de manera más explícita las aplicaciones que usan inteligencia artificial para generar imágenes íntimas sin el consentimiento de las personas retratadas .

El cambio llega después de una serie de escándalos ligados a Grok , el chatbot de xAI.

La sección 1.2 de las Pautas de Revisión de Apps, que regula el contenido generado por usuarios, ahora advierte de forma directa sobre “infracciones de propiedad intelectual, imágenes íntimas no consentidas y acoso anónimo ”.

El texto agrega que los desarrolladores que no implementen resguardos adecuados, o no corrijan violaciones ya notificadas, pueden considerarse en infracción del Código de Conducta para Desarrolladores.

Apple crea nueva sección en App Store Apple también creó una sección nueva, la 2.5.19, dirigida contra las apps de “cebo y cambio ”: programas que se presentan como herramientas inofensivas durante la revisión y después, ya aprobados, activan funciones dañinas como la generación de imágenes indebidad falsas.

La norma prohíbe ocultar funciones mediante ofuscación de código y advierte que esa práctica puede derivar en la eliminación de la app y el cierre de la cuenta del desarrollador.

La compañía, además, endureció el lenguaje de la sección legal de sus pautas: las apps que faciliten trata de personas o explotación infantil “serán eliminadas de la App Store y bloqueadas de la distribución alternativa”.

El antecedente de Grok ante la problemática de imágenes falsas La decisión llega después de que usuarios de X utilizaran Grok a comienzos de este año para crear escenas íntimas falsas no consentidos de mujeres, incluidas menores.

Apple no retiró X ni Grok de la App Store en ese momento, aunque le dijo a senadores estadounidenses que había amenazado con hacerlo si xAI no corregía el problema.

En junio, durante la conferencia de desarrolladores WWDC, manifestantes pidieron frente a las oficinas de Apple que la compañía eliminara a Grok, a X y toda la tecnología relacionada de su tienda de aplicaciones.

En julio pasado, el fiscal de la ciudad de San Francisco, David Chiu, había ordenado a Apple retirar trece aplicaciones capaces de generar imágenes sexuales no consentidas, algo que la empresa dijo haber cumplido.

Según TechCrunch, Chiu acusó a Apple y a Google de “ayudar y encubrir” la venta de pornografía ultrafalsa ilegal y de haber ganado millones de dólares en comisiones por esas apps.

Chiu había dicho entonces que generar imágenes íntimas no consentidas es “ilegal, dañino y completamente inaceptable”, y advirtió que su oficina seguiría presionando a ambas empresas si no reforzaban los controles de sus tiendas.