Cómo protegerse del riesgo de un apocalipsis provocado por la IA

Por Dambisa Moyo, Project Syndicate.

LONDRES- Las advertencias sobre un apocalipsis provocado por la IA están alcanzando su punto álgido.

La semana pasada, el investigador de Anthropic Jacob Coxon conmocionó al mundo al dimitir públicamente y revelar que “las personas que desarrollan la IA creen sinceramente que podría acabar con todos nosotros antes de que termine la década”.

Sus declaraciones fueron rápidamente respaldadas por Evan Hubinger, responsable de ciencia de alineación de la empresa, quien situó la probabilidad de que la IA acabe con toda la humanidad en más del 10%.

En cuestión de días, el CEO ejecutivo de Anthropic, Dario Amodei; el CEO de OpenAI, Sam Altman, y otras figuras destacadas del ámbito de la IA hicieron un llamamiento para desacelerar el ritmo de desarrollo de la IA.

Los temores ante un escenario apocalíptico provocado por la IA llevan tiempo creciendo.

Geoffrey Hinton, considerado “el padrino de la IA”, sostiene desde hace tiempo que perder el control de los sistemas de IA superinteligentes podría “conducir a la extinción de la humanidad”.

Más recientemente, Bill Gates ha destacado la amenaza de una agitación económica provocada por la IA.

Por su parte, Elon Musk lleva reclamando una pausa en la carrera por la IA al menos desde 2023.

La ansiedad pública va mucho más allá de los escenarios apocalípticos, impulsada por la preocupación por la pérdida de puestos de trabajo, el consumo de agua y energía de los centros de datos, el uso de la IA por parte de los niños y los crecientes riesgos para la ciberseguridad y la seguridad nacional.

Una encuesta reciente de Gallup reveló que siete de cada diez estadounidenses se oponen ahora a la construcción de centros de datos cerca de sus hogares.

Solo el 32% de los estadounidenses confía en la IA, frente al 87% en China. ¿Cómo deberían protegerse los responsables de las políticas, los líderes empresariales y los inversores frente a los riesgos relacionados con la IA? Incluso los escenarios más extremos relacionados con la IA son demasiado graves como para desestimarlos, por muy improbables que puedan parecer.

Los responsables de las políticas tienen la responsabilidad de proteger a la población, mientras que los líderes empresariales tienen el deber fiduciario de salvaguardar los intereses de los accionistas y los clientes.

Dadas las consecuencias potencialmente catastróficas, quizá sería prudente reducir la exposición antes de que se produzca el desastre.