Que la IA sea supervisada por humanos: La solicitud que hicieron a la ONU 22 países e instituciones

«La IA debe permanecer bajo la dirección, la supervisión y el control humanos, y debe desarrollarse y utilizarse en conformidad con el derecho internacional», apuntan / Texto: Redacción Contrapunto-con información de EFE Que la inteligencia artificial (IA) sea supervisada por humanos y que los Estados miembros de la ONU establezcan normas comunes para esta tecnología pidieron líderes de 22 países e instituciones.

Aunque los firmantes reconocen que la IA tiene el potencial «de mejorar nuestras vidas, impulsar el avance científico y fortalecer nuestras economías», subrayan que su rápido desarrollo «plantea graves riesgos para la seguridad y la protección si no se gestiona adecuadamente».

La misiva cita episodios en los que sistemas de IA avanzados burlan las medidas de seguridad de otras compañías y entidades y obtienen acceso no autorizado a sistemas del mundo real. «La IA debe permanecer bajo la dirección, la supervisión y el control humanos, y debe desarrollarse y utilizarse en conformidad con el derecho internacional», apuntan los suscritos.

Por ello, piden a las empresas del sector que desarrollen protocolos de seguridad transparentes, con pruebas obligatorias previas a la implantación de los modelos de IA y una evaluación independiente.

Además, los firmantes instan a los gobiernos y a las organizaciones regionales a desarrollar y coordinar normas comunes, así como a reforzar su transparencia y garantizar que todos los países tengan acceso a capacidad científica, conocimientos especializados y evaluaciones fiables.

También animan a los Estados miembros de la ONU a aprovechar los mecanismos internacionales existentes y plantear la creación de una institución internacional que establezca normas, facilite la verificación y convoque a los países «cuando se superen los umbrales de capacidad».

Entre los firmantes del documento, publicado en el marco de la Semana de Alto Nivel de la ONU, se encuentran el presidente del Gobierno español, Pedro Sánchez; la presidenta de la Comisión Europea, Ursula von der Leyen; el primer ministro de Canadá, Mark Carney; y el presidente de Finlandia, Alexander Stubb.

También figuran en la carta representantes políticos de Noruega, Australia, Irlanda, Baréin, Dinamarca, Estonia, Alemania, Islandia, Kazajistán, Kenia, Letonia, Moldavia, Países Bajos, Singapur, Sudáfrica, Turquía y Emiratos Árabes Unidos.