La IA puede dejar una marca en lo que entregas, aunque tú no la veas

Algunas herramientas de inteligencia artificial están desarrollando una forma de identificar el contenido que generan; no son firmas en el documento ni caracteres invisibles que aparecen al copiar y pegar un texto, sino algo menos evidente: marcas de agua que quedan incorporadas en la manera en que el modelo produce el texto.

Anthropic es una de las empresas que avanza en esa dirección, pues anunció que sus futuros modelos de Claude generarán texto con una marca de agua para ayudar a determinar si el modelo participó en su elaboración.

Según la firma, la marca será imperceptible para quien lea el texto y no añadirá caracteres ocultos ni modificará de manera apreciable su calidad. ¿Qué significa esto para alguien que usa IA? La idea es que el texto generado por IA tenga una señal que no esté a simple vista, pero que sí pueda analizarse con una herramienta de detección.

De manera tradicional, la expresión “marca de agua” está asociada a logotipos, palabras con transparencia o elementos ocultos dentro de un archivo, pero en el caso de Claude no es así.

Anthropic explicó que su sistema aprovecha las decisiones que el modelo toma mientras genera el texto e inserta la marca como un patrón estadístico.

Así, la elección de palabras continúa pareciendo normal para el lector, pero la secuencia puede analizarse posteriormente con la clave correspondiente para calcular qué tan probable es que Claude haya participado en la creación del material.

Google describe un mecanismo similar para SynthID-Text, su tecnología para marcar textos generados por Gemini.

De acuerdo con el gigante tecnológico, los modelos asignan probabilidades a los distintos tokens que podrían aparecer a continuación y que SynthID modifica esas probabilidades de manera que genere un patrón estadístico detectable, sin que sea perceptible para el lector.

La existencia de una marca no significa que cada frase que pase por una herramienta de IA vaya a quedar identificada de la misma manera.

En Claude, por ejemplo, la efectividad depende en parte de cuánto texto haya generado el modelo.

Anthropic explica que mientras más largo sea un pasaje, más decisiones existen sobre las cuales puede acumularse la señal y, por lo tanto, mayor puede ser la confianza para detectar la participación de Claude.

En textos pequeños, hay menos información disponible.

Esto es importante porque una marca de agua no equivale a decir que “todo el texto fue hecho por IA”.

Lo que puede indicar es que un determinado modelo probablemente participó en algún momento de su creación o procesamiento.