Rey Carlos III advierte de ‘riesgos existenciales’ si la IA cae ‘en manos equivocadas’

El rey británico, Carlos III , advirtió este jueves 17 de septiembre contra los “riesgos existenciales” que se presentan si la inteligencia artificial (IA) “cae en manos equivocadas y termina siendo usada de formas potencialmente catastróficas”.

El monarca reunió en Dumfries House (Escocia) a varios ejecutivos y líderes mundiales del sector en una especie de “cumbre” para explorar los límites de un uso de la IA que traiga beneficios a la sociedad , en un contexto en el que se multiplican las advertencias sobre un desarrollo incontrolado de sus capacidades .

Entre los invitados figuran representantes de Nvidia , Google DeepMind , OpenAI, Anthropic y otras empresas , así como representantes de China o del Vaticano y el secretario de Estado británico Kanishka Narayan.

Carlos III pide dar un buen uso a la IA “Quienes han creado estas tecnologías —recordó el monarca— advierten cada vez más de que la IA puede desarrollar capacidades más siniestras, e incluso potencialmente llevarse vidas (por delante)”, señaló en su discurso de apertura a los ejecutivos.

Y les recordó que su trabajo no consiste solo en hacer avanzar la tecnología , sino “garantizar que sirve claramente a la humanidad, a las comunidades y al mundo natural”.

Sin embargo, no todos los asistentes parecieron alinearse con sus temores.

Uno de los más destacados, el CEO de Nvidia, Jensen Huang , pidió que la IA no termine siendo regulada lo mismo que las redes sociales, ya que es “una tecnología” y no “un producto”.

Según Huang, el papel de los gobiernos debe consistir en intervenir cuando el desarrollo de la IA “se tuerce” , y recordó que ya existen leyes que regulan la salud, el transporte o el entretenimiento —ámbitos donde ya se aplica la IA—, y no hay que obsesionarse con añadir nuevas leyes salvo que sean necesarias.

En cuanto a los sistemas de control de la IA -añadió-, deben hacerse en laboratorios cerrados: “Es ingeniería de la antigua, de la clásica, ni más ni menos, (para) probar los productos antes de ser lanzados al público”.

De hecho, Huang se ha unido a Mark Zuckerberg para tomar distancias de los llamamientos de otros ‘gurús’ de la IA, como los líderes de Anthropic, OpenAI y SpaceX, que han pedido ralentizar el desarrollo de esta tecnología.

Se trata de uno de los debates de mayor trascendencia esta semana, en el que ha llegado a intervenir el propio presidente de Estados Unidos, Donald Trump, él también contrario a ralentizar el ‘boom’ de la IA .