Los detectores de contenido generado por IA ya aciertan en 99.99% de casos

La proliferación de textos creados por chatbots en redes sociales y sitios web ha impulsado el desarrollo de herramientas especializadas que permiten a los usuarios identificar con precisión cuándo un contenido fue producido por inteligencia artificial .

La aparición de publicaciones con patrones repetitivos —listas de viñetas, abundancia de emojis y signos de puntuación como rayas largas— llevó a muchos usuarios a sospechar sobre el origen de esos textos.

Los detectores de IA ofrecen una solución: basta con pegar un fragmento en la interfaz para recibir un porcentaje que estima cuánto del contenido proviene de un bot.

Una de esas herramientas es Pangram.

La empresa que lo desarrolló afirma que su sistema acierta en 9.999 de cada 10.000 casos al identificar si un texto fue generado por IA .

Asimismo, un estudio independiente de la Universidad de Chicago respaldó esa afirmación, señalando que el detector mostró resultados casi perfectos al analizar distintos tipos de textos.

Cómo funciona la detección de textos de IA El mecanismo detrás de los detectores de IA no se limita a buscar características superficiales, como ciertos signos de puntuación o formatos.

En declaraciones a The New York Times, Max Spero, fundador de Pangram, explicó que la clave está en analizar el “árbol de decisiones” que emplea cada chatbot , como Claude, ChatGPT o Gemini.

Cada palabra seleccionada por el modelo es el resultado de una serie de elecciones automáticas, y comprender ese patrón permite a los detectores reconstruir la “huella estilística” de la máquina.

“Estamos realizando una ingeniería inversa de su huella estilística”, dijo Spero.

Esta metodología requiere recolectar grandes volúmenes de información sobre los modelos de IA para identificar patrones distintivos.

Durante una semana de pruebas por parte del medio estadounidense, la herramienta fue capaz de identificar correctamente textos personales mezclados con fragmentos generados por IA, así como distinguir entre publicaciones humanas y aquellas con intervención de chatbots en redes como LinkedIn y Reddit .

En uno de los experimentos, la herramienta detectó con exactitud qué partes de un mensaje de un trabajador tecnológico habían sido escritas por una persona y cuáles por una máquina, según relató el medio.

Dificultades para identificar imágenes de IA Aunque los detectores de textos han alcanzado un alto grado de precisión, la identificación de imágenes creadas por inteligencia artificial representa un desafío mayor.