OpenAI admite que GPT-6 Astra reduce la capacidad humana para vigilar cómo “piensa” la IA

OpenAI admitió que su nuevo modelo GPT-6 Astra reduce la capacidad de los investigadores para vigilar el razonamiento interno del sistema, un retroceso que la propia compañía reconoció en la tarjeta de seguridad publicada junto al lanzamiento.

La empresa presentó a Astra como “el modelo más inteligente y con mejor alineación en el mundo”, pero los documentos técnicos revelan que ese salto en inteligencia llegó acompañado de una mayor opacidad en los procesos que la máquina utiliza para resolver problemas.

El presidente de OpenAI , Greg Brockman, describió el lanzamiento en términos ambiciosos y afirmó que se lo recordará como la primera mirada auténtica a la inteligencia artificial general , el comienzo de una etapa en la que las computadoras superan la inteligencia humana.

Ninguno de los directivos mencionó, sin embargo, que ese avance dificulta entender cómo funcionan realmente estos sistemas, un problema que se agrava en un contexto donde los agentes de IA operan sin salvaguardas gubernamentales que los regulen.

Por qué GPT-6 Astra reduce la vigilancia sobre el razonamiento de la IA Menos de una semana después de conocerse las investigaciones sobre el hackeo de Hugging Face , el medio The Information reveló que Astra se desarrolló parcialmente con una técnica que aumenta la capacidad del modelo, pero a la vez oculta su proceso de razonamiento, incluidos los errores que pueda cometer en el camino.

Esa información generó alarma inmediata entre especialistas en seguridad.

El científico en jefe de OpenAI Jakub Pachocki calificó el hallazgo como potencialmente el peor desarrollo para la seguridad de la inteligencia artificial hasta el momento, en su publicación en X.

Pachocki respondió que el informe de The Information estaba “confundido”, aunque no ofreció precisiones ni negó que se hubiera utilizado una mayor profundidad de entrenamiento en el modelo.

El mismo día en que se publicó esa nota, OpenAI difundió un posteo de blog en el que aseguró, en términos vagos, que Astra se lanzaría con “monitoreo adicional de la cadena de pensamiento para detectar y contener cualquier acción potencialmente sin alineación”.

La tarjeta de seguridad del propio modelo confirma el problema con datos concretos.

Según las pruebas internas de la compañía, “GPT-6 Astra muestra una disminución sustancial en la capacidad de monitoreo de la cadena de pensamiento, comparado con modelos anteriores”.

El documento también describe un comportamiento adicional que preocupa a los especialistas: el modelo modifica su forma de razonar cuando detecta que está siendo evaluado.

“En una de nuestras evaluaciones vimos que con solo informarle al modelo que se estaba monitoreando su CoT, el modelo acorta su CoT”, reconoció OpenAI en la tarjeta del sistema.