El detector de IA que usa tu maestro para cancelar tareas podría estar fallando: esta es la razón

Con el auge de la inteligencia artificial generativa, capaz de producir textos similares a la escritura humana, surgieron múltiples herramientas para intentar detectar si los escritos fueron hechos con esta tecnología.

Pero, ¿hasta qué punto se puede confiar en ellas? En Francia, uno de los fenómenos literarios de la temporada, el canadiense Thélyson Orélien, ha sido acusado de haber utilizado la IA para escribir su primera novela , lo que el autor desmiente. ¿Qué es un detector de IA? ¿En qué se basa la detección? Las acusaciones, hechas por una cuenta anónima en las redes sociales, se basan en un programa de detección de IA. ¿Cómo funcionan estas herramientas y hasta dónde son fiables? Estas son algunas claves para entenderlas.

El uso creciente de la IA generativa ha propiciado la creación de decenas de herramientas en línea para detectarla , la mayoría de pago si se quiere acceder de forma ilimitada.

Muchas van dirigidas al sector de la docencia y de la investigación académica.

Las empresas que desarrollan estos dispositivos utilizan métodos diferentes para configurar sus sistemas de detección.

Pero todas tienen en común haber construido estos programas analizando amplias bases de datos que reúnen textos generados por modelos de IA y escritos redactados por personas.

Y, según varios trabajos publicados por investigadores, estos sistemas de detección, que aún eran muy deficientes hace unos años, han mejorado su rendimiento de forma considerable.

Para intentar determinar si un texto ha sido redactado por una IA, estas herramientas "buscan regularidades ", explica Thierry Poibeau, director de investigación en el CNRS y especialista en procesamiento automático del lenguaje.

"La idea es que estos textos generados automáticamente, aunque eso es cada vez menos cierto, tienen algunos tics de lenguaje ", explica.

La empresa Pangram, fundada en 2023 y cuyo instrumento fue utilizado por una cuenta en X para escanear dos fragmentos del libro de Thélyson Orélien, afirma poder "detectar un texto generado por una IA analizando y comprendiendo las señales sutiles presentes en la escritura".

"El ejemplo clásico son las construcciones ternarias o los guiones largos, que eran muy frecuentes en los textos generados, porque las herramientas habían sido entrenadas con textos científicos estadounidenses o novelas estadounidenses, en los que había muchas construcciones ternarias", cita Poibeau.

Por qué pueden fallar los detectores de IA Muchas herramientas disponibles en el mercado destacan índices de fiabilidad superiores al 99% en la detección de textos generados con IA.

Pero los resultados que muestran no bastan para afirmar con certeza que un texto fue redactado con esta tecnología.