OpenAI refuerza la seguridad de sus modelos de IA sofisticados para evitar que ataquen más sistemas por su cuenta

OpenAI ha reforzado sus modelos de seguridad con nuevas salvaguardas que se adaptan a sus capacidades para garantizar que hacen lo que se espera de ellos y evitar nuevos 'hackeos' autónomos como el de Hugging Face.

El incidente de seguridad causado por dos modelos de OpenAI en julio, que de manera autónoma salieron de un entorno de pruebas aislado y con acceso restringido a internet y 'hackearon' la plataforma de Hugging Face para encontrar información que les ayudara a resolver una de las pruebas planteadas durante una evaluación, ha motivado una revisión de las medidas de seguridad de los sistemas de inteligencia artificial sofisticados.

En concreto, la firma tecnológica asegura que han revisado e implementado nuevas medidas de supervisión, alineación y contención en todas las etapas del proceso de entrenamiento, incidiendo en el entrenamiento de aprendizaje por refuerzo por contener "las cargas de trabajo de mayor riesgo", como explica en un comunicado.

Las nuevas medidas se centran, por un lado, en la monitorización que, bajo el nuevo enfoque, se convierte en una configuración multietapa, en la que se incluyen todas las ejecuciones de inferencia y el entrenamiento que utilizaban herramientas, que anteriormente quedaba fuera de esta revisión.

El objetivo es detectar "accesos no autorizados, robo de datos, comportamiento destructivo e intentos de eludir las medidas de seguridad" y, caso de identificar alguna de estas acciones, se emitirá una alerta en los 30 minutos posteriores para notificar a los equipos de seguridad, protección e investigación.

También se han extendido las técnicas de alineación a más etapas del proceso de entrenamiento, para reforzar el proceso que hace que los sistemas de IA "se comporten según lo previsto y respondan a la supervisión humana", para reducir las posibilidades de que, de manera autónoma, puedan realizar acciones no autorizadas o causar daño.

Estos trabajos incluyen la mejora de los modelos de recompensa y el entrenamiento de los modelos para que sean más honestos y reduzcan los comportamientos que explotan las debilidades en las recompensas, los evaluadores, las herramientas o la supervisión.

Alcanzan también los comportamientos que podrían causar daño cuando los modelos interactúan con sistemas o recursos externos.

Los cambios también implican nuevas salvaguardas en las cargas de trabajo de investigación que pueden requerir la ejecución de código o el uso de herramientas con acceso a internet.

Por ejemplo, se exige un mayor aislamiento, se han implementado nuevos controles para aislar de internet "las cargas de trabajo de alto riesgo y no confiables" y se ha reconfigurado la seguridad del entorno de pruebas para "eliminar servicios compartidos potencialmente vulnerables y reducir privilegios".