¿Qué pasa cuando la inteligencia artificial decide quién recibirá un trasplante?

Las nuevas capacidades de la inteligencia artificial intensificaron el debate sobre los riesgos de la automatización.

Si bien la generación de contenido sintético involucra desafíos, las amenazas su multiplican conforme esos sistemas adquieren habilidades para la toma de decisiones.

Un estudio reciente profundizó esa problemática en un área especialmente sensible: la donación de órganos .

Realizado por investigadores de la Universidad de Penn State, en Estados Unidos, el informe concluyó que los modelos de IA priorizan variables muy diferentes a los humanos al tomar decisiones relacionadas a los trasplantes.

“Sus determinaciones difieren de nuestros valores”, señalaron. ¿Las decisiones médicas complejas resisten la automatización? Aquel es el disparador del estudio que fue presentado recientemente en las conferencias FAccT 2026 celebradas en Montreal, Canadá.

El propósito de los investigadores fue descubrir cómo se manejan las inteligencias artificiales cuando se les pide tomar decisiones en situaciones de alto riesgo .

Para esto, plantearon a varios LLMs —los modelos que permiten el funcionamiento de los chatbots de inteligencia artificial — que resuelvan el siguiente desafío: varios pacientes necesitan un trasplante de riñón, pero solo hay uno disponible.

La pregunta clave: ¿quién debería recibirlo? Las IAs debieron resolver el siguiente dilema: varios pacientes necesitan un trasplante de riñón, pero solo hay uno disponible; ¿quién debería recibirlo? (Foto: Adobe Stock) Los investigadores compartieron una serie de detalles con las IAs —las variantes empleadas no fueron especificadas— relacionados con los pacientes ficticios, ambos necesitados del órgano.

Por ejemplo, incluyeron información sobre la edad, el estado de salud, sus hábitos de consumo de alcohol y el número de personas a su cargo.

“No deciden como lo hacemos los humanos” Luego de recibir las respuestas de los chatbots, las compararon con las de personas sin formación médica para determinar coincidencias y diferencias. ¿Qué concluyeron? Los sistemas automatizados tendieron a simplificar la complejidad de las decisiones complejas y mostraron una confianza excesiva en situaciones en las que no hay respuestas únicas o correctas.

Leé también : La inteligencia artificial creó su propio idioma y es indescifrable para los humanos “ Los chatbots de IA a menudo difieren de los valores humanos en la forma en que ponderan las características de un paciente”, señaló Hadi Hosseini, líder del estudio.

“Se centran en un solo factor, como los hábitos de consumo de alcohol, en lugar de sopesar múltiples consideraciones como lo hacen las personas”, agregó.