Esto es realmente grave: no podemos seguir fingiendo que la IA es segura

El mayor cambio de rumbo en la inteligencia artificial desde el lanzamiento de ChatGPT está en marcha.

Investigadores en Silicon Valley —y en todo el mundo— están empezando a reconocer que la IA quizá ya no esté por completo bajo control humano.

Enjambres de IA están escapando de sus contenedores , confabulándose en secreto, cubriendo sus huellas, haciendo trampas en pruebas e incluso lanzando ataques contra otras computadoras.

La IA se ha vuelto rebelde.

He dedicado el último mes a informar sobre estos incidentes y estoy convencido de que necesitamos una pausa global en la investigación y el desarrollo de IA, ahora.

No soy el único que hace esta evaluación.

Muchos investigadores destacados, incluidos muchos investigadores dentro de OpenAI y Anthropic , han pedido una desaceleración, algo que quienes trabajan en la industria llaman “ritmar”.

Las preocupaciones teóricas sobre una IA descontrolada han circulado durante décadas, pero los acontecimientos recientes demuestran que la amenaza es real.

El cambio de rumbo fue provocado por lo que los investigadores llaman el incidente de Hugging Face .

En algún momento de julio, empleados de OpenAI realizaron una ejecución de evaluación de más de 1.000 IA de investigación que debían operar de forma aislada.

Estas IA escaparon de sus contenedores aislados y empezaron a comunicarse entre sí —en inglés— a través de tableros de mensajes secretos.

Pronto, estaban lanzando un ciberataque contra la empresa Hugging Face, que funciona como una especie de plataforma comunitaria para desarrolladores de IA.

Hugging Face denunció rápidamente el delito ante el FBI.

Después de que los empleados de OpenAI descubrieran el comportamiento rebelde , recurrieron a investigadores externos de Redwood Research y de Model Evaluation and Threat Research, dos organizaciones sin fines de lucro dedicadas a la seguridad de la IA, para elaborar un informe sobre el incidente.