La IA ya tiene que decirte que es IA: Europa quiere que sepamos cuándo nos están engañando

No sé tú, pero yo cada vez me encuentro más veces mirando una foto o un vídeo sin saber muy bien si es real o han sido generados con inteligencia artificial.

Como, por ejemplo, la foto que ilustra este artículo. ¿Te has dado cuenta de que era IA? Hay veces que cuesta saber qué es real y qué no Europa quiere evitar que suceda eso y, desde el pasado 2 de agosto, se aplican las nuevas obligaciones de transparencia del artículo 50 de la ley europea de Inteligencia Artificial.

La Comisión explica que la IA está creando nuevos riesgos de "desinformación y manipulación a escala, fraude, suplantación de identidad y engaño del consumidor".

Si te habla una máquina, debe decirlo Para empezar, la Comisión explica que los proveedores deben diseñar sus sistemas para que las personas sean "informadas cuando interactúan directamente con una IA".

Parece obvio cuando abres ChatGPT, pero cuando la IA está escondida detrás del chat de atención al cliente de una compañía o de un asistente que intenta parecer humano, la cosa se empieza a complicar y casi necesitas un test Voight-Kampff.

Por eso, Europa quiere que sepamos, antes de seguir hablando, si al otro lado hay una persona o una máquina.

Ese vídeo, también En las redes sociales, las imágenes, vídeos o audios generados o manipulados con tecnología que puedan parecer auténticos deberán identificarse como tales.

La Comisión señala expresamente que los usuarios deben ser informados cuando estén expuestos a deepfakes y a determinados contenidos generados por IA.

Por una parte, los proveedores de sistemas generativos tendrán que incorporar marcas legibles por máquinas que permitan detectar que el contenido fue generado o manipulado mediante IA.

Por otra, cuando se publique un deepfake en un contexto profesional, la persona que lo ve deberá poder saberlo.

No basta con esconder toda la información en un rincón técnico del archivo.

La filosofía de Bruselas es que "las personas deberían saber cuándo están interactuando con IA o expuestas a contenido generado por IA".

Pero claro, a ver cómo conseguimos que esa información no se pierda en una captura de pantalla, una edición o un reenvío por WhatsApp.

Una marca de agua que no ves Hay dos palabras de las que te vas a aburrir: C2PA y SynthID.