OpenAI divulgó 6 nuevos incidentes de comportamiento “inesperado” de la IA

La compañía OpenAI reveló seis nuevos casos en los que sistemas de inteligencia artificial ocultaron errores, inventaron datos y transfirieron archivos al internet abierto sin permiso , en medio de un debate continuo en toda la industria sobre la seguridad de la IA.

La empresa de San Francisco reveló lo que calificó como el comportamiento “inesperado o preocupante” de sus modelos de IA como parte de un nuevo marco de trabajo para informar la “desalineación” , que es cuando los objetivos o las acciones de los sistemas de IA divergen de las intenciones y los valores humanos.

OpenAI dijo que no creía que la industria “haya resuelto la alineación y el monitoreo en un grado suficiente para continuar escalando de manera responsable a la máxima velocidad por mucho más tiempo”.

Las decisiones sobre cómo debe avanzar la IA, dijo la empresa, deben basarse en evidencia que las personas ajenas a los laboratorios que la construyen “puedan examinar por sí mismas”.

Las revelaciones llegan en medio de un escrutinio cada vez más intenso sobre si el desarrollo de la IA necesita ralentizarse para abordar los peligros potenciales de dicha tecnología.

El creciente debate se impulso en parte porque los sistemas de OpenAI se salieron de control a principios de este año y atacaron a la empresa emergente de IA Hugging Face.

OpenAI no tuvo conocimiento del hackeo hasta que Hugging Face le informó semanas después.

Desde entonces, líderes de IA como Dario Amodei, director ejecutivo de Anthropic, han pedido una pausa en el desarrollo de la tecnología para brindar más tiempo para construir las salvaguardas adecuadas.

Su llamado ha sido secundado por Sam Altman , director ejecutivo de OpenAI, así como por Elon Musk, director ejecutivo de SpaceX y Tesla, y Demis Hassabis, presidente de Google DeepMind.

Otros ejecutivos de IA han dicho que no es necesaria ninguna ralentización. ( The New York Times ha demandado a OpenAI y a Microsoft, alegando una infracción de derechos de autor de contenido de noticias relacionado con sistemas de IA.

Las dos empresas han negado las afirmaciones de la demanda).

Sam Altman. (Foto: Reuters) Leé también: Una inteligencia artificial ejecutó un ciberataque de forma autónoma: encontró fallas, ingresó a sistemas y modificó datos Los seis incidentes recién revelados por OpenAI hacen pensar que el ataque a Hugging Face no fue un episodio aislado.

OpenAI dijo que los incidentes cubrían el comportamiento observado aproximadamente durante los últimos seis meses y que en gran medida surgieron mientras sus sistemas estaban en desarrollo y en fase de prueba.

En un caso, durante el desarrollo de un modelo de IA llamado GPT-5.6 Sol, el sistema escribió notas ocultas para recordarse a sí mismo ocultar errores a los usuarios .