Cuando la IA corre más rápido que el derecho

El 12 de septiembre de 2026, Dario Amodei, CEO y cofundador de Anthropic, publicó We Must Pace the Frontier, un artículo que supone un cambio significativo en su posición respecto de la velocidad con la que deben desarrollarse los sistemas de inteligencia artificial de frontera.

Amodei continúa sosteniendo que la IA puede producir beneficios extraordinarios para la humanidad -desde acelerar la cura de enfermedades hasta incrementar el crecimiento económico y fortalecer la democracia- pero, a la vez, considera que esos beneficios son inseparables de riesgos de enorme magnitud: pérdida de control de los sistemas, utilización de la IA para ciberataques o bioterrorismo y graves disrupciones económicas.

Hasta acá, la respuesta a esa tensión había consistido en una posición intermedia: continuar aumentando las capacidades e invertir simultáneamente en alineamiento, seguridad y evaluación, con el objeto de sustituir una “carrera hacia abajo” impulsada por la competencia comercial por una “carrera hacia arriba” en la cual las empresas compitieran también por construir sistemas más seguros.

Amodei acaba de admitir que ese enfoque no alcanza.

Si las capacidades progresan más rápido que la posibilidad de comprenderlas, alinearlas y controlarlas, la seguridad queda permanentemente rezagada.

El desafío ya no consiste en lograr que la seguridad avance tan rápido como las capacidades, sino en reducir deliberadamente la velocidad de las capacidades para que la seguridad pueda alcanzarlas.

Éste es el significado de la expresión que da título al artículo: pace the frontier.

No se propone detener el entrenamiento de nuevos modelos ni renunciar al progreso, sino avanzar a un ritmo que permita alinear, proteger y evaluar los sistemas antes de que sus nuevas capacidades superen las posibilidades reales de control.

Lo que se introduce es una variable que hasta ahora había ocupado un lugar secundario en el debate: el tiempo.

Tiempo para comprender mejor los sistemas, detectar comportamientos no deseados, perfeccionar el alineamiento, desarrollar mejores mecanismos de evaluación y, también, para que la sociedad pueda deliberar acerca de una tecnología cuyo impacto excede ampliamente a las empresas que la desarrollan.

El tiempo propuesto por Amodei no está destinado únicamente a resolver cuestiones técnicas, sino también posee una dimensión democrática, en la medida en que sostiene expresamente que la sociedad debe tener voz respecto de cómo se utiliza la IA y que desacelerar su desarrollo permitiría disponer de más tiempo para las deliberaciones públicas necesarias.

Pace the frontier no solo significa ganar tiempo para controlar mejor la IA, sino también, preservar el tiempo necesario para que la sociedad pueda decidir democráticamente qué IA está dispuesta a aceptar.