“Podría pasar el año que viene”: el investigador que renunció a Anthropic puso fecha al momento en que la IA se volverá peligrosa

Veinticuatro horas después de renunciar a Anthropic con un hilo en X que ya supera los 100 millones de vistas , Jacob Coxon pasó por NBC , por CN N con Anderson Cooper y por Fox News con Bret Baier.

Agregó lo que el hilo no decía: cuándo, cómo y por qué no intentó cambiarlo desde adentro.

Y Anthropic envió su primer comunicado.

La fecha La corrección más importante al titular la hizo él.

“Los modelos actuales no representan un riesgo significativo”, dijo en NBC .

En CNN fue más preciso: “Lo peor que pueden hacer es hackear algo.

No son lo bastante inteligentes como para superarnos al nivel que llevaría a una extinción”.

El problema es el paso siguiente, según dijo en NBC : “Esto es extrapolar a un año de ahora.

Los modelos empiezan a ponerse muy peligrosos.

Algunos piensan que en seis meses es plausible.

Podría ser más, dos o tres años”.

Evan Hubinger, el jefe de un equipo de seguridad de Anthropic que le dio la razón y calculó más de 10% de probabilidad de extinción en una década , publicó un segundo mensaje en la misma línea: el riesgo de los modelos presentes es bajo; lo que lo preocupa es una superinteligencia que surja de la automejora recursiva, “que está ocurriendo más rápido de lo que pensábamos”.

La señal de alarma En NBC le preguntaron qué debería vigilar el público.

Coxon dio una sola respuesta: si la IA puede hacerse más inteligente sin humanos .