La ONU insta a Estados y empresas a gobernar la IA: "Todos los derechos humanos están en riesgo"

La preocupación por el ritmo que está alcanzando el desarrollo de la inteligencia artificial (IA) ha llevado al Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, ha hecho un llamamiento a Estados y empresas para gobernar una tecnología que ofrece muchos beneficios para la sociedad pero que también pone en riesgo los derechos humanos.

Türk ha pedido medidas urgentes y significativas para hacer frente a los riesgos sin precedentes de la IA en una carta abierta en la que se dirige a Estados y empresas responsables de la IA de frontera con el objetivo de "trazar un camino de acción para gobernar los modelos avanzados de IA de frontera, fundamentado en el derecho internacional de los derechos humanos".

"El verdadero reto hoy en día es cómo equiparar el ritmo de una gobernanza eficaz de la IA con el ritmo de su acelerado desarrollo", ha expuesto, insistiendo en que "necesitamos medidas urgentes adaptadas a los riesgos sin precedentes que plantea la IA de frontera".

Türk ha reconocido en su escrito los beneficios que ya ha demostrado tener esta tecnología, sobre todo en lo que respecta al conocimiento científico, el acceso a la información en múltiples idiomas y la producción agrícola.

Pero aborda también los daños que ya está haciendo: la discriminación, la erosión de la privacidad a gran escala, la automatización de servicios esenciales que excluyen a personas y colectivos, y las campañas de desinformación.

Daños a los que ya está expuesta la sociedad global y que se verán intensificados con los agentes de IA por su capacidad para "traducir objetivos en acciones, ejecutar flujos de trabajo complejos y operar con una supervisión humana limitada o nula", apunta.

Y ha recordado el 'hackeo' a Hugging Face, protagonizado por agentes autónomos de IA de OpenAI, al decir que "acontecimientos recientes han demostrado que los sistemas avanzados pueden generar comportamientos fuera de sus parámetros operativos previstos, eludir salvaguardas, ejercer el engaño y perseguir objetivos de forma autónoma de maneras que sus propios desarrolladores no anticiparon".

LOS DERECHOS HUMANOS, EN RIESGO "Todos los derechos humanos están en riesgo", afirma contundente, al tiempo que insta a los Estados y a empresas de inteligencia artificial de frontera a colaborar para comprender y reforzar los controles que ya se aplican a esta tecnología y a aplicar una supervisión interna e independiente para aumentar la transparencia y la rendición de cuentas.