¿El fin de la humanidad por culpa de la IA? Cómo pensar un riesgo que nadie puede medir

Al contemplar el fin de la humanidad , algunos probablemente estamos demasiado tranquilos: suponemos que las máquinas nunca se volverán contra nosotros o que, llegado el caso, podríamos simplemente apagarlas.

Otros quizás sean demasiado pesimistas: insisten en que se avecina una catástrofe y usan jerga como “P(doom)” (del inglés probability of doom) , es decir, la probabilidad de que la IA nos mate a todos .

Para quienes oscilan violentamente entre ambos grupos, acá van tres consejos para mantener la cabeza clara.

Primero, pensá con precisión qué significa para vos el fin del mundo .

Si lo que más te importa es evitar la extinción total, la buena noticia es que eliminar a todos los humanos probablemente sería bastante difícil.

Un pronosticador señaló las limitaciones en la duración de la batería de los robots asesinos y los límites a la cantidad de munición que podrían cargar.

Al parecer, tampoco tenemos (todavía) suficientes armas nucleares para provocar un invierno nuclear que nos mate a todos, ya que no se produciría suficiente hollín.

Si no creés que haya mucha diferencia entre una catástrofe que mate a miles de millones de personas y la extinción total —y no solo porque los sobrevivientes serían, en su mayoría, multimillonarios refugiados en búnkeres —, entonces sos bastante normal.

Aunque pensá en lo que podría perderse.

Cuando a los encuestados se les dijo que el mundo futuro que sería destruido podía ser utópico, más personas concluyeron que, en realidad, la extinción sería especialmente grave.

Mi segundo consejo es que tengas cuidado con tus propios sesgos , dado que la amenaza de la IA es particularmente difícil de comprender.

Una revisión del estadístico David Spiegelhalter ofreció ejemplos de “factores de miedo”, que elevan la percepción del riesgo: a saber, si algo es incontrolable, tiene potencial catastrófico , consecuencias potencialmente fatales, no se comprende, es novedoso y conlleva daños diferidos.

Tu primer pensamiento podría ser “tiene sentido”.

El segundo debería ser que la IA se lleva la máxima calificación.