La carrera de la IA que nadie sabe frenar

Cuando aprendí a manejar, el primer consejo que recuerdo que me dio mi papá fue que nunca debía ir más rápido de lo que sintiera que podía controlar la máquina.

Si de pronto aparecía algún imprevisto, o alguien frenaba, tenía que ser capaz de reaccionar a tiempo para evitar una catástrofe.

Curiosamente, al leer las declaraciones de los líderes de los grandes laboratorios de IA, como Anthropic u OpenAI, con respecto a frenar el desarrollo de la inteligencia artificial, me viene a la mente esa lección de mi padre.

Por primera vez, en los 20 años que llevo dedicado a esta disciplina, tengo la impresión de que los creadores no están seguros de poder controlar esto que están creando y que, poco a poco, se están dando cuenta de que podría haber consecuencias catastróficas derivadas de lo que están construyendo.

La discusión estalló cuando Jacob Coxon escribió en X que renunciaba a Anthropic porque consideraba que había un riesgo real de que la inteligencia artificial terminara con la raza humana; de que, antes de que termine la década, los humanos fueran destruidos por la IA.

Después de esto, los directores ejecutivos de Anthropic y OpenAI estuvieron de acuerdo en que debería existir una forma de ralentizar el desarrollo de estas herramientas cuando las medidas de seguridad no pudieran seguir el ritmo, con Demis Hassabis, CEO de Google DeepMind, concordando con ellos.

Desde entonces, durante la última semana he recibido llamadas y preguntas de colegas y amigos sobre si en realidad es posible este escenario catastrófico.

Para tratar de dar una respuesta, realicé un ejercicio mental.

Pensemos que un agente de IA crea una cuenta de correo electrónico, dándose así una identidad digital.

Una identidad digital que podría darle acceso a otros servicios a medida que mejoren sus capacidades.

A partir de ahí, podría crear hilos en X o Facebook, o videos autogenerados en Instagram, para impulsar alguna agenda política en particular.

Aún quedan algunas trabas que pueden impedir que la IA haga esto, pero son barreras digitales que podrían, en teoría, ser superadas a medida que estos modelos avancen.

Y ahí lo importante es entender la escala a la cual podría hacer esto.

No estoy hablando de algún tipo de hackeo sofisticado; estoy hablando de ingeniería social, un fenómeno que ya existe hoy, pero a una escala nunca antes vista.