Google abre SynthID para comprobar si una imagen, vídeo o audio es IA o no, pero el problema es que es un placebo

Si las noticias falsas ya eran un problema , distribuidas sobre todo a través de redes como X o Facebook, con la llegada de la IA generativa y la capacidad de hacer imágenes que cada vez más difuminan la línea entre la realidad y lo artificial... eso se ha disparado.

Es por ello que Google DeepMind lanzó SynthID en 2023 , una marca y herramienta de uso cerrado para identificar imágenes falsas.

Ahora han decidido abrirla a todo el mundo y es más capaz que nunca.

El problema es que está (muy) lejos de ser infalible.

SynthID.

Realmente, se trata de la tecnología de marcas de agua que DeepMind lanzó hace varios años y, básicamente, es algo que incrusta una marca imperceptible en imágenes, vídeo, audio o texto generado por IA.

Lo hace en el momento de crear la pieza y no es algo que veamos (como una marca de agua en texto o el símbolo de Gemini que antes se introducía en la IA de Google), sino algo más profundo pensado para resistir recortes y filtros por encima en el caso de imágenes, de cambios de fotogramas y compresión con pérdida en vídeo o de ruido, compresión agresiva y cambios de velocidad en el caso del audio.

Según Google, con esta tecnología han marcado más de 180.000 millones de imágenes y vídeos... y más de 240.000 años de audio.

Es tan loco el haber marcado eso como que se haya generado tantísimo en tan poco tiempo.

En Xataka La nevada de Kamchatka generada por IA simboliza algo preocupante: ya no podemos fiarnos de ninguna imagen en internet Puedes probar .

Es tan fácil como ir a la web oficial del servicio o a Gemini y subir un archivo.

En unos pocos segundos te da un resultado y te dice con qué se ha creado ya que OpenAI y Google tienen su propio marcador.

Hay limitaciones de tamaño de archivo, duración de vídeos (deben ser de menos de 90 segundos) y realmente apenas hay 20 consultas por día.

Al final, no deja de ser una IA y eso consume recursos que Google no nos va a regalar.