Sam Altman, CEO de OpenAI: "El mundo tiene razón al temer. No necesitamos tanta imaginación como antes para ver cómo podría salir mal"

La seguridad de la inteligencia artificial ha pasado a ocupar el centro del debate tecnológico tras la dimisión de varios investigadores y las advertencias sobre sistemas cada vez más potentes.

Sam Altman, CEO de OpenAI y una de las figuras más influyentes del sector, admite que el temor social está justificado, aunque defiende la capacidad de las propias compañías para actuar con responsabilidad.

Durante la conferencia anual de Salesforce celebrada en San Francisco, Altman reconoció abiertamente los peligros asociados al rápido avance de esta tecnología.

“Ya no hace falta tanta imaginación como antes para que imaginemos cómo esto podría salir mal.

Creo que el mundo tiene razón al temer esto” , señaló el directivo en declaraciones recogidas por la BBC.

La intervención se produjo después de varias semanas marcadas por las renuncias de especialistas que trabajaban en algunos de los principales laboratorios de inteligencia artificial.

Sus salidas han aumentado la presión sobre unas empresas que compiten por desarrollar modelos más capaces mientras tratan de demostrar que pueden mantenerlos bajo control .

Tres dimisiones que han encendido las alarmas El caso con mayor repercusión ha sido el de Jacob Coxon, antiguo trabajador de OpenAI que abandonó Anthropic tras cuestionar el rumbo de la carrera tecnológica.

El investigador advirtió de las posibles consecuencias de avanzar hacia una inteligencia artificial superior sin contar previamente con garantías suficientes de seguridad.

A su marcha se sumaron las de Bilal Chughtai y Josh Engels, ambos vinculados a Google DeepMind .

Chughtai trabajaba en cuestiones relacionadas con la seguridad y el alineamiento, el área que estudia cómo conseguir que una inteligencia artificial actúe conforme a los objetivos y valores humanos.

El gran parón de la IA: por qué casi nadie se fía de Amodei y Altman, pero tampoco saben qué hacer Michael Mcloughlin Engels también formó parte del equipo de seguridad de la compañía.

Tras dejar Google DeepMind, se incorporó a METR, una organización dedicada a evaluar las capacidades y los riesgos de los modelos avanzados.

El investigador considera que existe una posibilidad real de que estos sistemas ocasionen daños graves durante los próximos cinco años.