Rey Carlos III advierte contra "riesgos existenciales" de la IA si cae en "manos equivocadas"; inaugura cumbre sobre esa tecnología

Londres.

El rey británico, Carlos III , advirtió contra los " riesgos existenciales " que se presentan si la inteligencia artificial ( IA ) "cae en manos equivocadas y termina siendo usada de formas potencialmente catastróficas".

El monarca reunió en Dumfries House (Escocia) a varios ejecutivos y líderes mundiales del sector en una especie de " cumbre " para explorar los límites de un uso de la IA que traiga beneficios a la sociedad, en un contexto en el que se multiplican las advertencias sobre un desarrollo no controlado de sus capacidades.

Entre los invitados figuran representantes de Nvidia , Google DeepMind, OpenAI , Anthropic y otras empresas, así como representantes de China o del Vaticano y el secretario de Estado británico Kanishka Narayan.

"Quienes han creado estas tecnologías -recordó el monarca- advierten cada vez más de que la IA puede desarrollar capacidades más siniestras , e incluso potencialmente llevarse vidas (por delante)", señaló en su discurso de apertura a los ejecutivos.

Y les recordó que su trabajo no consiste solo en hacer avanzar la tecnología, sino "garantizar que sirve claramente a la humanidad, a las comunidades y al mundo natural".

Líder de Nvidia se deslinda de llamado a ralentizar desarrollo de IA Sin embargo, no todos los asistentes parecieron alinearse con sus temores.

Uno de los más destacados, el CEO de Nvidia, Jensen Huang , pidió que la IA no termine siendo regulada lo mismo que las redes sociales , ya que es "una tecnología " y no "un producto".

Según Huang, el papel de los gobiernos debe consistir en intervenir cuando el desarrollo de la IA "se tuerce", y recordó que ya existen leyes que regulan la salud, el transporte o el entretenimiento -ámbitos donde ya se aplica la IA-, y no hay que obsesionarse con añadir nuevas leyes salvo que sean necesarias.

En cuanto a los sistemas de control de la IA -añadió-, deben hacerse en laboratorios cerrados: "Es ingeniería de la antigua , de la clásica, ni más ni menos, (para) probar los productos antes de ser lanzados al público".

De hecho, Huang se ha unido a Mark Zuckerberg para tomar distancia de los llamamientos de otros "gurús" de la IA , como los líderes de Anthropic, OpenAI y SpaceX, que han pedido ralentizar el desarrollo de esta tecnología, en uno de los debates de mayor trascendencia esta semana, en el que ha llegado a intervenir el propio presidente de Estados Unidos, Donad Trump , él también contrario a ralentizar el "boom" de la IA.