Nick Bostrom, filósofo sueco: “Cuando vamos en la dirección equivocada, lo último que necesitamos es progreso”

En una época signada por el imperativo tecnológico, donde la velocidad parece ser el único indicador de éxito, una frase del filósofo sueco Nick Bostrom irrumpe como un freno de mano conceptual: “Cuando vamos en la dirección equivocada, lo último que necesitamos es progreso”.

Lejos de ser un manifiesto ludita o un lamento tecnofóbico, esta sentencia, pronunciada en una entrevista con The European Magazine en 2011, se transformó en la columna vertebral de su obra cumbre: Superinteligencia .

Para entender la frase, primero hay que entender a su autor.

Nick Bostrom , fundador del influyente Instituto para el Futuro de la Humanidad de la Universidad de Oxford , no es un filósofo tradicional atrapado en la metafísica del pasado.

Es un pensador del mañana.

Considerado uno de los padres del transhumanismo académico, Bostrom se ha dedicado a estudiar lo que él llama los “riesgos existenciales”: aquellos peligros que no solo podrían causar una crisis global, sino exterminar por completo a la raza humana.

Cuando Bostrom habla de “dirección equivocada”, se refiere a que la humanidad corre una carrera armamentística y comercial por desarrollar Inteligencia Artificial General (AGI) y biotecnología avanzada.

Sin embargo, lo hace sin haber resuelto el “problema de la alineación”; es decir, cómo asegurar que una entidad miles de veces más inteligente que el ser humano comparta nuestros mismos valores éticos y de preservación. ¿Qué certezas tenemos de que el futuro que asoma detrás del horizonte no nos aplastará? Aunque la frase germinó en sus ponencias y entrevistas de principios de la década de 2010, encontró su ecosistema perfecto y su máxima justificación teórica en las páginas de su libro más importante: Superinteligencia: Caminos, peligros, estrategias (2014).

Inmediato fenómeno de ventas y lectura obligatoria para la élite tecnológica.

Figuras como el físico Stephen Hawking o los magnates Elon Musk y Bill Gates citaron el libro como la razón principal de sus propias advertencias públicas sobre la IA.

Bostrom suele recurrir a una potente metáfora conocida como “la urna de la creatividad humana”.

Él lo plantea más o menos en estos términos: imaginen que la humanidad va sacando canicas de una urna gigante y que cada canica es un invento.

Hemos sacado canicas blancas (la rueda, la penicilina) y canicas grises (la energía nuclear, con su doble filo).

El temor de Bostrom es que en esa urna exista una canica negra: una tecnología que, por su propia naturaleza, destruya a la civilización que la descubra.