Qué es la rendición cognitiva y por qué los científicos afirman que es el mayor peligro de la IA

La aparición y rápida adopción de los chatbots de inteligencia artificial , o modelos de lenguaje generativo, cambiaron la manera de buscar información online, ya sea para sacarnos dudas, completar un trabajo, estudiar o investigar un tema.

Estas herramientas , hoy disponibles para un público cada vez más amplio, pueden elaborar respuestas completas para una gran variedad de consultas y presentarlas con un lenguaje claro, ordenado y convincente , incluso cuando contienen datos falsos o razonamientos defectuosos.

Ahí surge uno de los grandes problemas de la IA : esa capacidad para construir una explicación verosímil se interpreta muchas veces como una garantía de exactitud.

Frente a una respuesta bien redactada y expresada con seguridad, algunos usuarios dejan de revisar la lógica, contrastar los datos o consultar otras fuentes y dan por sentado que el contenido es correcto y fue verificado.

Es entonces cuando la inteligencia artificial deja de funcionar como una herramienta bajo supervisión humana.

Su respuesta pasa a reemplazar el análisis de la persona , que acepta la conclusión del sistema sin comprobar cómo fue obtenida ni detectar posibles errores.

Steven D.

Shaw y Gideon Nave, investigadores de la Escuela Wharton de la Universidad de Pensilvania, identificaron este comportamiento y lo denominaron rendición cognitiva .

El concepto describe la tendencia a adoptar los razonamientos producidos por una IA con una evaluación mínima, hasta el punto de desplazar el pensamiento intuitivo y el análisis deliberado.

Para estudiar el fenómeno, realizaron tres experimentos prerregistrados con 1.372 participantes y un total de 9.593 pruebas.

Los voluntarios resolvieron siete ejercicios de una versión adaptada del Test de Reflexión Cognitiva, diseñado para distinguir las respuestas intuitivas del razonamiento deliberado.

En las pruebas con asistencia de inteligencia artificial, podían consultar un chatbot basado en GPT-4o, uno de los modelos empleados por ChatGPT .

El diseño asignaba al azar el tipo de respuesta que debía producir el sistema: una solución correcta o un error intuitivo expresado con seguridad.

Leé también: “Los chatbots nunca te dicen que estás equivocado”, advirtió una especialista en inteligencia artificial Los usuarios confiaron en la IA incluso cuando estaba equivocada El resultado central de la investigación mostró hasta qué punto una respuesta convincente puede desplazar el criterio de quien la recibe.