Antes de que sea demasiado tarde

El momento histórico que atraviesa la humanidad frente a la inteligencia artificial (IA) es este: mientras gobiernos, empresas y millones de usuarios celebran los avances de la IA con un entusiasmo adolescente, las voces más autorizadas del propio ecosistema de la IA hacen sonar una alarma.

Las advertencias ya no provienen de quienes desconfían de la IA, sino de quienes la crean.

Son los propios arquitectos de esta tecnología quienes admiten que la velocidad del desarrollo está superando la capacidad de comprender sus consecuencias y de establecer límites eficaces.

El 28 de julio, más de mil investigadores e ingenieros de OpenAI, Anthropic , Google DeepMind, Meta, Microsoft AI y otros laboratorios de vanguardia hicieron pública la declaración Pacing the Frontier (“Pautar la frontera”), en la que solicitan al gobierno de Estados Unidos que lidere un acuerdo internacional para desarrollar las herramientas técnicas y las reglas de gobernanza necesarias para acompañar el avance de los modelos de frontera.

Los firmantes buscan que los gobiernos cuenten con la capacidad de “frenar la publicación de los modelos más avanzados de IA ” y parten de la preocupación de que existe un claro riesgo de que el desarrollo de sus capacidades se acelere rápidamente más allá de nuestra capacidad de control.

La declaración se suma a una serie de advertencias formuladas desde 2023 por algunos de los principales referentes mundiales en inteligencia artificial.

Quizá la más conocida haya sido la breve Statement on AI Risk , impulsada por el Center for AI Safety y firmada por centenares de científicos y líderes de la industria, entre ellos Geoffrey Hinton, Yoshua Bengio, Sam Altman, Demis Hassabis y Dario Amodei.

En apenas una oración, el documento sintetizaba la preocupación de sus redactores: “Mitigar el riesgo de extinción provocado por la inteligencia artificial debería constituir una prioridad global comparable a la prevención de pandemias y de una guerra nuclear”.

Vale la pena recordar también la carta abierta “Pause Giant AI Experiments” , impulsada por el Future of Life Institute y publicada en marzo de 2023.

En aquel momento, cuando GPT-4 acababa de irrumpir y comenzaba a vislumbrarse el alcance de la inteligencia artificial generativa, sus impulsores propusieron una pausa de seis meses en el entrenamiento de modelos para dar tiempo a desarrollar protocolos de seguridad y un marco regulatorio adecuado.