La ONU advierte sobre los peligros de la IA: de cortes de agua a armas de destrucción masiva

El alto comisionado de la ONU, Volker Türk, advirtió que el desarrollo acelerado de la inteligencia artificial (IA) pone en riesgo derechos humanos como la vida , la alimentación, la privacidad, la salud y la seguridad, y puede afectar desde el suministro de agua hasta las barreras que impiden el uso de armas de destrucción masiva.

La advertencia alcanzó a la IA agéntica , una modalidad capaz de tomar decisiones propias que exceden las funciones de los sistemas convencionales.

Para Türk, sus fallos podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y afectar el funcionamiento de las instituciones democráticas.

“La actual carrera hacia una IA cada vez más potente supone un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas” , afirmó Türk.

El funcionario de la ONU pidió que los Estados y las empresas actúen con urgencia en foros multilaterales para gobernar la tecnología sobre la base del derecho internacional y los derechos humanos.

Qué le preocupa al representante de la ONU sobre el avance de la IA Volker Türk aseguró que un riesgo es que “poblaciones enteras podrían perder el acceso a agua, calefacción o servicios financieros si esos sistemas fallaran o fueran utilizados sin controles adecuados”.

El jefe de derechos humanos de la Organización de las Naciones Unidas agregó que la tecnología ya acelera las guerras , amplía su alcance y debilita las salvaguardias frente al lanzamiento de armas de destrucción masiva.

La preocupación fue expresada en un comunicado, luego de que referentes del sector tecnológico reclamaran reducir deliberadamente la velocidad de desarrollo de los modelos más avanzados ante la posibilidad de perder el control sobre ellos.

Entre quienes plantearon esa necesidad figuran el consejero delegado de Anthropic, Dario Amodei; el director ejecutivo de OpenAI, Sam Altman, y el empresario Elon Musk.

Cómo debe ser regulada la inteligencia artificial, según la ONU El alto comisionado de la ONU sostuvo que ningún país está en condiciones de regular por sí solo una tecnología de ese alcance.

Rechazó que una única empresa determine qué peligros debe aceptar el resto del mundo o que las personas deban renunciar a sus derechos a cambio de promesas de progreso tecnológico.

“Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo , y ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico”, resumió Türk.

Otros líderes respaldan la visión de regular la IA.

Amodei propuso un ritmo de desarrollo que mantenga el avance técnico, pero incorpore mayores controles externos.