¿Son OpenAI y Anthropic los nuevos mayas? La realidad tras las advertencias de que la IA acabará con nosotros esta misma década

En apenas unas pocas horas, medio mundo ha pasado de estar aplaudiendo el milagro matemático obrado por OpenAI (una euforia que se tornó en polémica por una denuncia de supuesto plagio con matemáticos murcianos involucrados) a tener el nerviosismo metido en el cuerpo pensando que existen probabilidades reales de que una inteligencia artificial se liberase del yugo de sus progenitores de carne y hueso y acabe con la civilización tal y como la conocemos.

El hombre que ha desbloqueado este nuevo miedo no ha sido ninguno de los jefazos ni de las estrellas de la industria. Ha sido un soldado raso. Jacob Coxon, investigador de seguridad de Anthropic , anunció que abandonaba la empresa. Podía haber sido una renuncia laboral más si no hubiese detallado los motivos en la red social X, antes conocida como Twitter.

" Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década" , explicó el ingeniero que también trabajó para la empresa de Sam Altman. No desaprovechó la oportunidad para acusar a estas empresas de ser plenamente conscientes de estos riesgos. La publicación no tardó en viralizarse y en apenas un par de jornadas ya sumaba 160 millones de visualizaciones.

El jefe de Coxon y responsable de alineamiento de la empresa, Evan Hubinger, se pronunció poco después en la misma plataforma. En lugar de apagar este incendio, echó más leña al fuego y afirmó que la probabilidad de extinción del ser humano "supera el 10%". Afirmó que en la organización tienen esto en mente, pero que todavía no tienen un plan diseñado para evitar un eventual escenario.

Unos días antes de este episodio hubo otro que pasó bajo el radar. Jakub Pachocki, científico jefe de OpenAI, publicó en el blog corporativo un post titulado 'Una mente alienígena'. "Este es un momento que exige extrema preocupación. Me preocupa que nadie esté preparado para las consecuencias del continuo y rápido avance de la IA", escribe. " Seguiremos buscando soluciones técnicas para la alineación y monitorización para desarrollar sistemas de defensa y para enfrentar unilateralmente la expansión cuando sea necesario. Sin embargo, creo que se requieren intervenciones más amplias", avisa. La mente alienígena a la que se refiere Pachocki, por cierto, es la inteligencia artificial y el aprendizaje profundo a gran escala. "Es un intelecto que no comprendemos del todo".

El miedo ya no es perder el trabajo. Tampoco lo es perder los ahorros porque a un agente rebelde le dé por hackear tu banco. Es mucho peor. Una mariposa aletea en Silicon Valley y poco después hasta en el último rincón de Occidente se convencen de la rebelión de las máquinas. Por si fuera poco, Anthropic publicó este jueves un informe de incidencias que ha detenido cinco posibles intentos de utilizar Claude en peticiones que podrían contribuir a crear armas biológicas.

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ

El debate está servido.