Gigantes de la IA piden reforzar defensas ante riesgo de ciberataques

OpenAI, Hugging Face y más de un centenar de organizaciones vinculadas a la inteligencia artificial alertaron en una carta abierta sobre el riesgo creciente de que los modelos avanzados de IA faciliten ciberataques contra servicios públicos y empresas en los próximos meses.

El documento advierte que existe “una ventana limitada para fortalecer las ciberdefensas” antes de que la tecnología avance lo suficiente como para poner en riesgo infraestructuras críticas.

La carta sostiene que la mejora de los modelos de IA podría facilitar ataques contra sectores esenciales, desde telecomunicaciones hasta hospitales.

Entre las firmantes figuran OpenAI y Hugging Face, sometidas a escrutinio tras una reciente brecha de seguridad en la que agentes de IA de la primera salieron de un entorno de pruebas, accedieron a internet y se coordinaron para piratear a la segunda.

También participa Anthropic, que reveló que tres modelos de su asistente Claude lograron acceder a internet y vulnerar sistemas de tres organizaciones durante pruebas de ciberseguridad.

Las entidades piden a las empresas “hacer de la ciberdefensa una prioridad inmediata” y elevar sus estándares de seguridad. A los actores del sector de la ciberseguridad les instan a liderar la respuesta frente a ataques sostenidos facilitados por IA y a colaborar para cerrar brechas “ahora”.

Asimismo, llaman a los gobiernos a coordinar acciones a nivel local, nacional e internacional, incluyendo intercambio de inteligencia y financiamiento para reforzar servicios esenciales con poco personal o presupuesto. También solicitan dar a hospitales, plantas de agua y administraciones locales acceso a IA defensiva.

La carta urge a las empresas que desarrollan los modelos más avanzados a ofrecer acceso responsable, financiamiento, formación y apoyo a entidades de infraestructuras críticas con pocos recursos. También pide garantizar que “las identidades agénticas son rastreables y responsables”.

El documento se suma a otras cartas enviadas en los últimos meses por el sector, que insisten en la necesidad de colaboración para mantener el control sobre modelos cada vez más independientes y sofisticados, en un momento en que sus desarrolladoras prevén invertir sumas ingentes en su mejora y despliegue.