La caja de pandora, aprendices de brujos e inconsciencia

Abrir la caja de Pandora fue, en el mito griego, un acto irreversible.

Todos los males escaparon al mundo, y solo la esperanza quedó en el fondo.

Hoy, al contemplar el desarrollo vertiginoso de la inteligencia artificial, la imagen parece repetirse con una precisión inquietante.

No hemos abierto una caja metafórica, hemos creado sistemas capaces de aprender, decidir y actuar por sí mismos, y próximamente más inteligentes que nosotros y lo hemos hecho, en gran medida parece, sin medir las consecuencias.

Somos, en el mejor de los casos, aprendices de brujos; en el peor, seres inconscientes que juegan con fuego en un polvorín.

El aprendiz de brujos de Goethe invoca un poder que no comprende y que luego no puede controlar.

La IA actual encaja en ese arquetipo.

Modelos de lenguaje que generan textos plausibles, algoritmos que recomiendan contenidos, sistemas de visión artificial que identifican rostros o conducen vehículos, todos son prodigios técnicos, pero también cajas negras cuyos sesgos, errores y efectos secundarios apenas empezamos a vislumbrar.

Los creadores, entusiastas y a menudo cegados por la innovación y la competencia, liberan herramientas inteligentes sin entender del todo su alcance y evolución.

Como Mikey, el aprendiz de brujo, en esa vieja animación de Disney, creemos que podemos ordenar a las escobas que carguen agua, pero olvidamos la fórmula para detenerlas.

Ejemplos concretos de como la IA ya mata Según los ejemplos citados, la IA ya participa directamente en la muerte de personas: en Gaza, testimonios de oficiales israelíes recogidos en el documental NAZA describen sistemas como Lavender, The Gospel y Where’s Daddy?, que usando vigilancia masiva generan listas de hasta 37.000 presuntos militantes y rastrean objetivos hasta sus casas para bombardearlas con sus familias, en un proceso vivido por algunos operadores como un “videojuego” remotamente ejecutado; en Ucrania, en julio de 2026, drones con algoritmos avanzados habrían activado un “modo Terminator”, matando soldados sin órdenes directas ni supervisión remota, rompiendo el principio de control humano; y en el ámbito militar-corporativo, el proyecto Maven de Palantir, convertido en el principal sistema operativo de IA del Ejército de Estados Unidos, se habría usado en solo tres semanas para ejecutar miles de ataques de precisión contra objetivos en Irán.

Los peligros que se avecinan no todos son inevitables, pero sí posibles si la humanidad no actúa con previsión y responsabilidad.

Entre los más graves destacan los siguientes.

1.