OpenAI seguía entrenando modelos de IA peligrosos pese a sus propias advertencias, afirma exlíder de seguridad de la empresa

David Robinson , exlíder del equipo de Sistemas de Seguridad de OpenAI , aseguró que la compañía sostenía advertencias públicas sobre los riesgos de sus modelos mientras continuaba entrenándolos y desplegándolos al mismo ritmo.

Robinson ofreció estas declaraciones en su primera entrevista tras renunciar a la empresa, concedida a Ezra Klein para el programa The Ezra Klein Show del The New York Times.

“Seguíamos publicando estas advertencias, pero en última instancia seguíamos entrenando y desplegando estos modelos peligrosos sobre los que advertíamos” , afirmó.

Una actividad “frenética” detrás de los discursos públicos En julio, cientos de empleados de OpenAI firmaron una carta abierta titulada “Pacing the Frontier”, en la que pidieron al gobierno la imposición de regulaciones que frenaran el desarrollo de la inteligencia artificial .

Dos meses después, en septiembre, el CEO de la compañía, Sam Altman, expresó en la red social X su acuerdo con el CEO de Anthropic, Dario Amodei, quien había publicado previamente un ensayo en el que proponía que las empresas de IA coordinaran una desaceleración conjunta.

“Necesitamos marcar el ritmo de la frontera” , escribió Altman en ese momento.

“Este ha sido un tema principal de las discusiones que hemos tenido en OpenAI en las últimas semanas”.

Sin embargo, según Robinson, dentro de las oficinas de la compañía la actividad se mantenía “frenética” y el personal trabajaba “con las reservas al límite” .

“Se siente casi como un ballet o una especie de danza, porque todas estas diferentes funciones confluyen entre sí”, describió sobre el ambiente interno de OpenAI.

“Hay mucha adrenalina”.

Investigadores de OpenAI se han referido de manera directa a los peligros de permitir que la inteligencia artificial se mejore a sí misma, un proceso conocido como autosuperación recursiva (RSI) .

Jakub Pachocki, científico jefe de la compañía, señaló en una publicación de blog sobre este fenómeno en septiembre: “Este es un momento que exige extrema cautela” .

Un vocero de la compañía había declarado previamente, en respuesta a un ensayo que Robinson publicó en la revista The Atlantic, que la empresa trabaja para reforzar la seguridad de sus modelos de inteligencia artificial.

“A medida que nuestros modelos se vuelven más capaces, continuamos fortaleciendo nuestras prácticas de seguridad” , indicó el vocero.