El Consejo de Seguridad de la ONU debatirá amenazas de la IA; participarán líderes de Open AI y Anthropic

El Consejo de Seguridad de la ONU celebra este miércoles una sesión informativa de alto nivel sobre la inteligencia artificial (IA) bajo el punto de agenda "Mantenimiento de la paz y la seguridad internacionales", reunión en la que participarán los líderes de las tecnológicas OpenAI , Anthropic y Hugging Face.

El Consejo, convocado por Francia en el marco de su presidencia rotatoria del organismo, abordará por primera vez de forma específica los riesgos sistémicos y la posible pérdida de control humano sobre los modelos tecnológicos más avanzados.

El ministro francés de Europa y Asuntos Exteriores, Jean-Noël Barrot, abrirá la sesión y después intervendrán Yoshua Bengio, premio Turing y copresidente del Panel Científico Internacional sobre IA de la ONU , y Sam Altman, director ejecutivo de OpenAI.

También se conectarán por videoconferencia Dario Amodei , consejero delegado de Anthropic , y así como Clément Delangue , máximo responsable de Hugging Face , compañía que clasificada por el ministro francés como una "víctima" tras los ataques que recibió en verano.

"A raíz de los incidentes ocurridos este verano, con la pérdida de control de ciertos modelos que se introdujeron en los sistemas de información de algunas empresas tecnológicas, Francia ha decidido dedicar una reunión del Consejo de Seguridad a este asunto", declaró Barrot a los medios.

El ministro destacó que se abordará formalmente el impacto de la IA generativa en la proliferación de armas autónomas y su potencial uso malintencionado por actores no estatales, en un momento en que crece la inquietud social con protestas y disturbios vinculados a la instalación de centros de datos.

Según detalla la publicación especializada Security Council Report (SCR), la reunión girará en torno a cuatro preguntas clave.

Qué riesgos plantean los rápidos avances de la IA para la paz mundial; cómo deben responder actores estatales y no estatales; qué medidas diplomáticas y de confianza pueden contener estas amenazas; y cómo evaluar y verificar estos modelos a un ritmo parejo al desarrollo tecnológico.

Líderes tecnológicos piden desacelerar desarrollo de la IA El debate llega precedido por episodios en los que diversas pruebas de Anthropic, OpenAI y Google eludieron las restricciones de contención en sus entornos de prueba, desatando temores bilaterales sobre ciberataques autónomos.

Varios líderes del sector, incluidos Amodei , Altman , Elon Musk y Demis Hassabis, han abogado por moderar la velocidad del desarrollo de la tecnología.

Esta búsqueda de consenso regulatorio contrasta con la postura exhibida en la Asamblea General por el presidente de Estados Unidos , Donald Trump .