Por qué los chatbots tienden a recomendar siempre a los mismos expertos, según un estudio

Un análisis sobre 22 modelos de lenguaje de gran escala ( LLM ) identificó que los sistemas de inteligencia artificial usados para recomendar especialistas tienden a favorecer perfiles ya visibles y pueden dejar fuera a investigadores, con efecto en las oportunidades profesionales cuando se los consulta para elegir conferencistas, supervisores o expertos.

El trabajo, liderado por la científica informática Lisette Espín-Noboa , del Complexity Science Hub (CSH) de Viena , también mostró que las mejoras aplicadas para corregir esos sesgos elevan la precisión o la representación social, pero no ambas al mismo tiempo, informó el portal especializado en ciencia y tecnología TechXplore.

Uno de los datos más claros apareció en la medición de exactitud factual : entre el 63% y el 82% de las recomendaciones correspondían a científicos reales presentes en la base de referencia.

En diversidad , los resultados oscilaron entre 44% y 69% , mientras que en paridad —que mide si la proporción de académicos recomendados refleja su peso real en el campo, por ejemplo, entre hombres y mujeres— se ubicaron entre 54% y 60%.

En el estudio se preguntó a quién considera experto una inteligencia artificial.

La respuesta, conforme al portal, es que los modelos reproducen desigualdades previas y pueden intensificarlas al recomendar con más frecuencia a hombres, académicos consolidados de Estados Unidos y autores con alta citación.

Modelos reconocen nombres, pero fallan en especialidades En una primera investigación, disponible en el archivo de prepublicaciones arXiv , el equipo examinó seis modelos de pesos abiertos —cuyo código y parámetros son de acceso público— para medir consistencia, precisión y sesgo social en tareas de recomendación dentro de la física.

Para eso usó como referencia una base de más de 450.000 científicos que publicaron en revistas de la American Physical Society entre 1893 y 2020.

Espín-Noboa explicó que, cuando pidieron a los modelos identificar académicos en subcampos específicos de la física, la mayoría citó científicos reales, pero asignó mal su área en 40% de los casos , en promedio.

También observó que los sistemas priorizaron expertos varones, de mayor antigüedad, radicados en Estados Unidos y ampliamente citados.

La investigadora describió una consecuencia concreta en el ámbito académico: “Un organizador de conferencias puede usar LLM para encontrar posibles oradores principales.

Si tu nombre nunca aparece, eres invisible y perderás oportunidades” .

Esa omisión, según el estudio, no es marginal cuando la recomendación automática empieza a reemplazar búsquedas humanas.