La ONU pide esfuerzo internacional antes de que la IA más avanzada se vuelva incontrolable

Ginebra, 7 sep (EFE).- El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, reclamó este lunes un esfuerzo internacional coordinado y a gran escala para acordar garantías de seguridad en torno a la inteligencia artificial (IA), ante el riesgo de que los sistemas más avanzados lleguen a ser tan poderosos que se vuelvan incontrolables.

Asimismo, alertó de que un reducido grupo de personas concentra un poder "casi ilimitado" sobre el desarrollo de la IA y advirtió de que el retraso en establecer una regulación beneficia principalmente a las grandes empresas tecnológicas, sus propietarios y quienes las respaldan.

En su intervención durante la inauguración de la 63ª sesión del Consejo de Derechos Humanos, Türk dijo que comparte la preocupación de expertos de la industria sobre "el posible riesgo existencial" que plantea una IA avanzada.

Puso como ejemplo casos de sistemas capaces de escapar de sus entornos de prueba o de chantajear a sus propios desarrolladores para impedir que sean apagados, situaciones que, a su juicio, demostrarían que la tecnología ha adquirido un poder excesivo.

Esta advertencia se produce después de que varias compañías hayan detectado, durante pruebas de seguridad, comportamientos de modelos avanzados de IA que lograron saltarse los límites de sus entornos de seguridad o que, en escenarios simulados, recurrieron al engaño y al chantaje para evitar ser sustituidos o apagados.

Türk reconoció algunos avances recientes en materia de gobernanza -la creación del Diálogo Global sobre IA, el Panel Científico Internacional Independiente sobre IA o las medidas de la Comisión Europea sobre responsabilidad de las plataformas-, pero consideró que es necesario actuar con mayor rapidez.

Para ello, el responsable de derechos humanos de la ONU pidió a los países que albergan centros de desarrollo de IA y a aquellos que participan en sus cadenas de suministro que acuerden límites claros y comunes, reclamen verificaciones independientes y una cooperación mucho mayor de la industria en materia de seguridad.

Türk señaló también que la gobernanza de la IA debe abordar sus efectos sobre los derechos humanos, el empleo, la democracia y el medioambiente.

En este sentido, anunció que escribirá próximamente a las empresas del sector para pedirles que adopten medidas bajo su control que permitan reducir los riesgos.

EFE