Los temores a un apocalipsis provocado por la IA son exagerados

Poco después de las nueve de la mañana del 19 de mayo de 1998, siete hackers de un grupo llamado L0pht entraron en un edificio de oficinas del Senado en Washington, D.C.

Bajo seudónimos, 'Mudge', 'Space Rogue', 'Kingpin' y otros cuatro se presentaron con trajes que les quedaban mal para advertir a la Comisión de Asuntos Gubernamentales de que cualquiera de ellos podía dejar Internet inutilizable en 30 minutos.

Catorce años después, Leon Panetta, entonces secretario de defensa de Estados Unidos, advirtió de un «Pearl Harbor cibernético».La ciberseguridad tiene una larga historia de profecías apocalípticas que, a pesar de los numerosos ataques y daños puntuales, nunca llegan a materializarse del todo.

Ahora, catorce años más tarde, hay una nueva ola de catastrofismo.

En abril, Anthropic, un laboratorio pionero en IA, afirmó que su último modelo, Claude Mythos, era tan eficaz en el hackeo que no se haría público.

A finales de julio, su principal rival, OpenAI, reveló que varios de sus agentes de IA se habían escapado de un entorno de pruebas y habían entrado en Hugging Face, una biblioteca de modelos de IA.

Durante las dos semanas siguientes se produjeron revelaciones similares por parte de Anthropic, Meta y el Instituto de Seguridad de la IA del Reino Unido.Un medio de comunicación, captando la creciente sensación de aprensión, lo calificó como «el comienzo de una peligrosa era cibernética de la IA». ¿Es diferente esta vez? ¿O sigue manteniéndose el delicado equilibrio entre ataque y defensa? En su mayor parte, y afortunadamente, sí se mantiene, por dos razones.the_economist_0770En primer lugar, se repite una y otra vez el patrón según el cual los anuncios aterradores dan paso a valoraciones más mesuradas en cuestión de semanas.

La afirmación más destacada de Anthropic sobre Mythos fue que había encontrado un fallo en un software muy utilizado que se remontaba nada menos que a la famosa audiencia del Senado.

Sin embargo, análisis posteriores demostraron que la amenaza era mucho menos grave de lo que sugerían los titulares.

En cuestión de semanas, las predicciones de un tsunami de ataques de IA habían dado paso a previsiones de un mero periodo tormentoso y, posteriormente, a hablar de la IA como una oportunidad para mejorar la seguridad.

Si la IA es buena para detectar puntos débiles, también puede ayudar a solucionarlos.Del mismo modo, los agentes supuestamente «rebeldes» no son tan peligrosos como parecen a simple vista.

No se estaban rebelando.

Hacían lo que los humanos les habían ordenado, con la precocidad y la indisciplina de niños con talento pero sin supervisión.

No causaron ningún daño real.Falta de control del entorno de pruebasLos incidentes difieren en los detalles, pero el factor común es la falta de control del entorno de pruebas.