¿La IA podría exterminar a la humanidad? Esto opinan un investigador actual de Anthropic y un exintegrante de la firma

Un investigador en activo y un exempleado de Anthropic coinciden en que la inteligencia artificial podría provocar la extinción de la humanidad antes de que concluya esta década.

La advertencia surge en el contexto de una renuncia pública que encendió el debate sobre los límites del desarrollo tecnológico en las principales empresas del sector.

Investigador de Anthropic cifra en más del 10% la probabilidad de extinción humana por IA Evan Hubinger, investigador de Anthropic que dirige los trabajos de orientación y control de futuros sistemas de inteligencia artificial, salió al paso de la dimisión de su colega Jacob Coxon para respaldar abiertamente sus preocupaciones.

“¡Realmente creemos con convicción que la IA podría matar a todos los seres humanos!”, escribió Hubinger en declaraciones públicas.

A eso sumó una estimación concreta: la probabilidad de que la IA cause la extinción de la especie durante los próximos 10 años supera, a su juicio, el 10%.

Coxon, por su parte, presentó su renuncia tras señalar que Anthropic y su rival OpenAI compiten por desarrollar tecnologías que, en sus palabras, “podrían acabar con todos nosotros antes de que termine la década” .

Que un investigador activo de la compañía haya respaldado públicamente esa postura minutos después de hacerse pública la salida de Coxon le otorga un peso inusual a la advertencia.

Qué riesgo existencial plantea la IA Una de las preocupaciones centrales entre quienes estudian la seguridad de los sistemas de inteligencia artificial es la posibilidad de que modelos futuros, con capacidades muy superiores a los actuales, persigan objetivos que no coincidan con los intereses humanos.

Ahora bien, si esos sistemas alcanzan un nivel de autonomía suficiente antes de que existan mecanismos de control eficaces, las consecuencias podrían ser irreversibles.

El debate no es nuevo, pero adquiere otra dimensión cuando quienes lo plantean trabajan desde dentro de las empresas que construyen esas tecnologías.

El dilema del progreso tecnológico frente a los riesgos del desarrollo sin control La inteligencia artificial avanza con rapidez en áreas como la medicina , la educación y la ciencia , lo que alimenta expectativas de mejoras sustanciales en distintos ámbitos de la vida humana.

Sin embargo, ese mismo ritmo de desarrollo es el que genera inquietud entre investigadores especializados en seguridad: a medida que los sistemas ganan autonomía y capacidad, la ventana para garantizar su alineación con los valores humanos se estrecha.

Las renuncias y declaraciones públicas de figuras como Coxon y Hubinger plantean dos preguntas que el sector no ha resuelto: cómo podría materializarse un escenario de riesgo extremo y por qué quienes construyen estas herramientas consideran que ese riesgo es real.