IA en salud: reflexiones desde Stanford

Un hospital incorpora inteligencia artificial para organizar turnos, analizar estudios o asistir a sus profesionales.

Los procesos se aceleran, pero surge una pregunta decisiva: ¿quién puede detener el sistema y quién responde si causa un daño? Invitado como profesor visitante en la Escuela de Medicina de la Universidad de Stanford, planteé en mi disertación sobre IA en Salud que la supervisión humana sólo protege cuando quien supervisa puede actuar.

Un médico ante una pantalla ofrece pocas garantías si carece de información, tiempo o autoridad para cuestionar el resultado.

Debe poder comprender el problema, apartarse de la recomendación y activar una respuesta alternativa.

El informe de la OMS Artificial intelligence-related health research: ethics review and oversight , publicado el 21 de julio, advierte que los mecanismos habituales de evaluación pueden resultar insuficientes y propone distribuir responsabilidades entre investigadores, comités de ética, instituciones, financiadores y reguladores.

El problema no es sólo si la IA acierta, sino si existe una estructura capaz de detectar errores, intervenir y responder por sus consecuencias.

Desde la Ética del Límite , marco conceptual que desarrollo, sostengo que la posibilidad técnica de hacer algo no basta para justificarlo.

El poder sólo es legítimo cuando existen límites efectivos a su ejercicio.

En IA clínica, no basta con declarar que “el médico tiene la última palabra”, debe demostrarse que dispone de información, tiempo, autoridad y alternativas para ejercerla.

Aquí aparece una distinción central: autoridad nominal no equivale a capacidad efectiva de intervención.

Si aceptar una recomendación automática requiere un clic, pero cuestionarla obliga a reconstruir información, completar trámites o asumir costos administrativos, la autonomía profesional puede existir en el organigrama y desaparecer en la práctica.

Luego, no puede atribuirse plena responsabilidad a quien carece de poder real para modificar una decisión.

Por eso propongo que la supervisión humana sea verificable.

Antes de incorporar una herramienta capaz de influir en decisiones clínicas, la institución debería realizar simulaciones para comprobar si sus profesionales detectan errores, cuestionan recomendaciones y pueden continuar la atención de manera segura cuando el sistema falla.