Más de 20 países piden ante la ONU crear una institución internacional que fije reglas y controle la IA

Líderes de 22 países e instituciones exigieron que la inteligencia artificial (IA) permanezca bajo supervisión humana y que los Estados miembros de la Organización de Naciones Unidas (ONU) acuerden normas comunes para limitar los riesgos de los modelos más avanzados.

La declaración, difundida durante la Semana de Alto Nivel de la ONU, propone crear una institución internacional capaz de fijar reglas, facilitar verificaciones y convocar a los países cuando se superen determinados umbrales de capacidad tecnológica.

Entre los firmantes figuran el presidente del Gobierno español, Pedro Sánchez ; la presidenta de la Comisión Europea, Ursula von der Leyen; el primer ministro de Canadá, Mark Carney; y el presidente de Finlandia, Alexander Stubb.

La iniciativa fue promovida por Finlandia y Noruega.

Además, suscribieron representantes políticos de Noruega , Australia, Irlanda, Baréin, Dinamarca, Estonia, Alemania, Islandia, Kazajistán, Kenia, Letonia, Moldavia, Países Bajos, Singapur, Sudáfrica, Turquía y Emiratos Árabes Unidos.

Por qué es necesario regular el avance de la inteligencia artificial Los gobiernos y las instituciones que apoyaron el llamamiento reconocieron que la IA puede mejorar la vida cotidiana , impulsar los avances científicos y fortalecer las economías.

Sin embargo, advirtieron que su desarrollo acelerado plantea riesgos graves para la seguridad y la protección si no se administra de forma adecuada.

La declaración menciona casos en los que sistemas avanzados de inteligencia artificial lograron eludir medidas de seguridad de otras empresas y entidades, con acceso no autorizado a sistemas del mundo real.

Los firmantes fijaron como principio que “la IA debe permanecer bajo la dirección, la supervisión y el control humanos, y debe desarrollarse y utilizarse en conformidad con el derecho internacional”.

En este sentido, las compañías tecnológicas deberán contar con protocolos de seguridad transparentes , realizar pruebas obligatorias antes de desplegar sus modelos y someterlos a una evaluación independiente.

A los gobiernos y organizaciones regionales les reclaman coordinación normativa , mayor transparencia y acceso universal a capacidad científica, conocimientos especializados y evaluaciones fiables.

Cuál es la visión de representantes de la ONU sobre esta declaración internacional El secretario general de la ONU, António Guterres , respaldó la propuesta de reforzar el control sobre los sistemas de IA más avanzados y de examinar la creación de un organismo internacional que establezca normas para esta tecnología.

Asimismo, Guterres destacó la publicación de un informe temático del Panel Científico Internacional Independiente sobre IA, centrado en la seguridad de estos sistemas y en los riesgos que surgirían si se perdiera el control humano.