Carlos III reúne en Escocia a los gigantes de la IA y advierte del riesgo de perder «el control de nuestro destino»

Carlos III ha reunido este jueves en Escocia a los responsables de las principales compañías de inteligencia artificial del mundo para pedirles garantías de que una tecnología que avanza a una velocidad sin precedentes permanecerá bajo control humano.

Ante ejecutivos de Nvidia, Google DeepMind, OpenAI y Anthropic, el monarca británico advirtió de los «peligros existenciales» que supondría que estos sistemas cayeran «en las manos equivocadas» y reclamó medidas de protección antes de que sea «demasiado tarde».En la cumbre, celebrada en Dumfries House, en Ayrshire, Escocia, y sede de The King's Foundation, participan entre otros Jensen Huang, presidente y consejero delegado de Nvidia; Demis Hassabis, cofundador y consejero delegado de Google DeepMind; altos responsables de OpenAI y Anthropic; el secretario de Estado británico de Inteligencia Artificial, Kanishka Narayan, y el franciscano Paolo Benanti, asesor del Vaticano en esta materia.La presencia en una misma sala de compañías que compiten por liderar el desarrollo de la IA fue precisamente uno de los elementos centrales del encuentro.

Carlos III hizo referencia a ello cuando saludó a representantes de Anthropic y OpenAI . «Sois rivales, ¿verdad?», bromeó.

La pregunta provocó risas, pero apuntaba a una de las dificultades que rodean el debate: las empresas no comparten necesariamente la misma posición sobre la velocidad a la que debe avanzar la tecnología ni sobre quién debe supervisar su seguridad.«El desarrollo de la IA, su naturaleza y su ritmo, resulta al mismo tiempo fascinante y profundamente preocupante», afirmó Carlos III en su discurso de apertura del encuentro. «Nuestra humanidad debe seguir siendo sagrada», añadió.

El Rey sostuvo que existe una «urgencia» por considerar adecuadamente los «peligros existenciales» de que la inteligencia artificial caiga «en las manos equivocadas», puesto que sus capacidades podrían utilizarse potencialmente de «formas catastróficas».La posibilidad de un uso dañino de sistemas cada vez más potentes exige, según el monarca, controles suficientes «antes de que sea demasiado tarde».

Carlos III dirigió además una petición explícita a quienes desarrollan la tecnología al señalar que la sociedad busca «con ansiedad vuestra garantía de que no perderemos el control de nuestro destino, ni de nuestras almas».«Las decisiones que se tomen en este momento decisivo configurarán el mundo que heredarán las generaciones futuras», afirmó. «La tarea que tenéis ante vosotros no consiste simplemente en hacer avanzar la tecnología, sino en garantizar que permanezca firmemente al servicio de la humanidad, de la comunidad y del mundo natural».La reunión se produce cuando el debate sobre la seguridad de la IA ha vuelto a intensificarse dentro de la propia industria.