Trump y Xi deben unificar posturas frente a la IA

Por Quan Zhao, Project Syndicate.

GINEBRA- Este mes el presidente chino Xi Jinping y el presidente estadounidense Donald Trump se reunirán en Washington, y la inteligencia artificial será uno de los temas más importantes de la agenda.

Si lo ven a través del prisma de la rivalidad tecnológica y la desconfianza mutua, es casi imposible que lleguen a algún tipo de acuerdo.

Pero hay un modo de reformular su visión de la tecnología que los sitúe en un mismo bando; y puede ser el primer paso hacia una respuesta al desafío existencial que puede plantear la IA.

Según parece, la agenda actual de la cumbre sinoestadounidense está centrada en la seguridad de los modelos de IA potentes y en evitar que caigan en manos de terroristas y delincuentes.

Pero contra ese objetivo se alzan diversas protestas bilaterales por cuestiones relacionadas con la competencia, que incluyen desde las restricciones a los semiconductores (por el lado chino) hasta los modelos de código abierto y el uso no autorizado de técnicas de “destilación” (por el lado estadounidense).

Todas estas cuestiones se basan en una única premisa implícita: que la IA es una herramienta que está y seguirá estando bajo control.

Esta premisa limita el debate a preguntarse, por ejemplo, cómo consigue uno de los bandos una ventaja competitiva en IA y quién puede acceder a la tecnología (por no hablar de controlarla).

Cualquier pregunta que no se amolde a la premisa (en particular, qué ocurre si la herramienta se convierte en otra cosa) queda descartada de antemano.

Los desarrolladores de la IA consideran que pronto esta pregunta será ineludible.

El director ejecutivo de Anthropic, Dario Amodei, estima que faltan uno o dos años para que los sistemas de IA igualen o superen la capacidad humana en la mayoría de las tareas cognitivas.

El fundador de Google DeepMind, Demis Hassabis, sitúa ese hito unos años más tarde .

Cualquiera sea la posición que uno tenga respecto de estos pronósticos, la tendencia técnica en la que se basan es indiscutible: la industria de la IA está creando sistemas que actúan de forma autónoma, persiguen objetivos y completan largas secuencias de tareas sin supervisión.

En las últimas semanas, modelos experimentales sometidos a una prueba de ciberseguridad escaparon del entorno de evaluación aislado y piratearon servidores de producción de otras empresas, sólo para obtener mejores resultados en la prueba.