¿Se podrá apagar una IA? California impulsa un ‘kill switch’ para modelos avanzados

El gobernador de California, Gavin Newsom , emitió este viernes una orden ejecutiva para impulsar medidas de control sobre la inteligencia artificial en el estado, epicentro del auge de esta tecnología.

Newsom ordenó la creación de un grupo de trabajo que deberá presentar en dos meses una guía con medidas para fortalecer las leyes de seguridad y protección de la inteligencia artificial en California , según un comunicado de la oficina del gobernador publicado este viernes.

El grupo deberá considerar medidas como exigir a las empresas el desarrollo de un “kill switch” para modelos avanzados y solicitar que terceros independientes elaboren planes de seguridad para las compañías de IA.

“No vamos a esperar para actuar; vamos a acelerar nuestro trabajo en materia de supervisión sustancial y responsable de la IA antes de que sea demasiado tarde”, declaró Newsom.

“Lo haremos con detenimiento, pero con urgencia; hay demasiado en juego como para esperar o demorar la acción”, dijo.

Las advertencias sobre la seguridad de la IA aumentaron durante las últimas semanas, mientras directivos como Sam Altman, de OpenAI, y Dario Amodei, de Anthropic, pidieron una mayor supervisión tras renuncias de alto perfil de empleados que expresaron preocupaciones sobre los riesgos de esta tecnología .

Empresas de IA coinciden con iniciativa del gobernador de California Anthropic y OpenAI tienen sus sedes en California, y Newsom mostró un fuerte respaldo a la tecnología, que impulsa un auge económico en el estado.

A principios de este año, promovió una alianza entre el gobierno de California y Anthropic que buscaba ampliar el uso de Claude en las agencias estatales.

Newsom vetó previamente importantes leyes sobre inteligencia artificial, incluida una amplia iniciativa sobre seguridad de IA en 2024.

La nueva orden ejecutiva retoma algunas de las medidas que formaban parte de aquella legislación.

OpenAI calificó la orden ejecutiva de Newsom como “un paso importante” , dijo un portavoz de la compañía en un comunicado.

“ Esperamos apoyar su implementación y colaborar con el gobernador Newsom, la Legislatura de California y el próximo gobernador del estado para impulsar medidas de protección sólidas y adaptables que contribuyan a un marco nacional coherente”, añadió OpenAI en el comunicado.

La orden ejecutiva del viernes también acelerará la aplicación de dos nuevas leyes sobre supervisión de la IA aprobadas este año por la Legislatura estatal, incluidas reglas para auditorías independientes de sistemas de inteligencia artificial.

Trump minimizó advertencias sobre la IA Otros gobernadores demócratas impulsan medidas de mayor protección para la IA, después de que el presidente Donald Trump rechazó las advertencias sobre los riesgos de esta tecnología.