Un estudio detectó autores “fantasmas” de IA en publicaciones académicas

Elena Vasquez y Marcus Chen han aparecido como expertos en volcanes, astronautas, protagonistas de thrillers , presentadores de podcasts y coautores académicos en cientos de documentos generados por IA de forma independiente .

El problema es que nunca existieron.

Desde hoy.

Una billetera permite ganar hasta 2% más por cada dólar que traés de EE.UU.

Un reciente estudio preliminar, de investigadores que trabajan en la Universidad de Varsovia y en la empresa Samsung , detectó varios nombres que figuraban como coautores de cientos de artículos, trabajos académicos y libros creados por la IA, pero que son ficticios.

El estudio detectó que los modelos de lenguaje no inventan personajes o expertos ficticios de manera completamente aislada o al azar.

“Demostramos que los grandes modelos de lenguaje no se limitan a usar nombres individuales de alta probabilidad al generar expertos ficticios: producen conjuntos de personajes correlacionados, pares y tríos cuyas tasas de coocurrencia superan con creces el azar y son consistentes en generaciones independientes”, aseguró el estudio.

En otras palabras, ciertos nombres tienden a aparecer juntos repetidamente.

Esas asociaciones de personajes ficticios no son iguales en todas las IA, a veces incluso son específicas de una versión de la misma IA, y tampoco permanecen necesariamente en el tiempo: por ejemplo, Claude tiende a colocar juntos a Elena Vasquez, Marcus Chen y Amara Okafor ; por su parte, Gemini suele mencionar a Aris Thorne junto a Lena Petrova, mientras que ChatGPT cita a Elara Voss sin pareja fija.

Estas asociaciones dejan huellas en el contenido que produjeron, que permiten inferir qué versión del modelo lo generó o, al menos, en qué período fue producido .

Huawei tiene nuevo plegable triple, el Mate XT2, que estrena un diseño como el de Samsung Los investigadores planten que esto genera un problema evidente: estos personajes o autores ficticios generados por IA terminan apareciendo en repositorios académicos reales y con apariencia de legitimidad.

En números: los investigadores dicen haber encontrado 1655 registros que atribuyen trabajos académicos a autores que en realidad serían ficticios , que “se publicaron” en revistas inexistentes, con fechas de publicación falsificadas.

Las publicaciones falsas no terminan ahí: estos registros falsos no se quedaron simplemente dentro de una respuesta de ChatGPT o Claude, sino que llegaron a DataCite, una organización que registra DOI (identificadores únicos utilizados para citar publicaciones, documentos y otros textos académicos).

El problema es que, una vez que tienen un DOI real, otros sistemas académicos pueden encontrarlo y procesarlo.