La herramienta gratuita que permite a menores denunciar la difusión de imágenes íntimas en internet: cómo funciona

Ante casos como el que se conoció esta semana del Colegio Modelo Lomas , donde alumnos de tercer año habrían creado, distribuido y vendido imágenes pornográficas falsas generadas con inteligencia artificial de sus propias compañeras, Red por la Infancia pone a disposición de niños, niñas y adolescentes de la Argentina una herramienta gratuita y anónima llamada BajaloYa! que permite solicitar la eliminación de ese tipo de contenido de plataformas digitales sin necesidad de compartir las imágenes con nadie.

Además, dan un soporte para denunciar.

El caso de Lomas de Zamora evidenció mayores peligros tecnológicos para menores.

Según Micaela , madre de una alumna afectada, al menos cuatro estudiantes habrían operado así: “Lo vendían, lo compartían con otros colegios de la zona, también lo subieron en páginas porno con nombre y apellido de las chicas, hacían catálogos” .

El material, creado con fotos reales de unas 40 alumnas , habría sido elaborado con una herramienta de inteligencia artificial paga .

Las familias realizaron una sentada frente al establecimiento tras trascender que la institución habría sabido durante semanas sin informarles .

Es en ese tipo de situaciones donde BajaloYa! aparece como una alternativa concreta.

La herramienta es la adaptación argentina de Take it Down , un servicio desarrollado por el National Center for Missing & Exploited Children (NCMEC) de Estados Unidos , y funciona en el marco de un acuerdo de colaboración entre ambas organizaciones.

La iniciativa apunta específicamente a que los menores puedan actuar sin depender de adultos para iniciar el proceso.

El mecanismo central de BajaloYa! consiste en asignar una huella digital única , técnicamente conocida como valor hash , a cada imagen o video de desnudo —parcial, total o sexualmente explícito— que involucre a personas menores de 18 años.

Las plataformas en línea pueden utilizar esos valores hash para detectar el contenido en sus servicios y proceder a su eliminación.

Lo que distingue al sistema es que todo el proceso ocurre sin que la imagen o el video salgan del dispositivo del usuario y sin que nadie llegue a verlos .

Para quienes, además de solicitar la baja del contenido, decidan avanzar con una denuncia formal, el camino indicado es el Ministerio Público Fiscal de la localidad que corresponda .

En el caso del MPF de CABA, cuenta con una Unidad Fiscal Especializada en Delitos y Contravenciones Informáticas (UFEDyCI).