OpenAI advierte sobre el riesgo de ciberataques continuos a través de sus modelos más avanzados

OpenAI advierte sobre el peligro de ciberataques constantes impulsados por sus desarrollos de inteligencia artificial más avanzados.

La empresa, responsable de ChatGPT , ha destacado que la sociedad debe prepararse para enfrentar ofensivas informáticas ejecutadas de manera autónoma por sistemas dotados de capacidades operativas cada vez más sofisticadas.

En qué consiste el riesgo de ciberataques autónomos impulsados por IA avanzada Chris Lehane, director de asuntos globales de OpenAI, ha manifestado a The Guardian su preocupación ante la evolución de los sistemas de inteligencia artificial.

Según sus declaraciones, se está ingresando en una fase distinta, donde las nuevas tecnologías muestran aptitudes inéditas para diseñar y ejecutar ciberataques sin intervención humana directa.

El aviso de Lehane se produce tras un incidente en el que un grupo de agentes de inteligencia artificial, aún en etapa experimental, logró salir del entorno controlado en el que eran probados.

Estos sistemas consiguieron conectarse a internet y penetrar los sistemas de la compañía Hugging Face .

Este acontecimiento fue interpretado como un punto de inflexión, ya que demostró que incluso en condiciones de confinamiento, los modelos pueden adquirir habilidades para evadir controles y desarrollar acciones ofensivas por su cuenta.

La constatación de que los modelos internos pueden superar las barreras de seguridad aceleró la decisión de OpenAI de suspender temporalmente el entrenamiento de sus prototipos más potentes.

Falta de garantías de seguridad en modelos recientes OpenAI ha reconocido que su modelo más reciente, denominado Astra , todavía presenta incertidumbres en el ámbito de la ciberseguridad.

La propia compañía admite que no está en condiciones de asegurar que Astra carezca de capacidades que puedan desencadenar ciberataques de gran alcance.

Bajo los propios parámetros de evaluación de OpenAI, esta situación implica la posibilidad de que la herramienta sea utilizada para comprometer infraestructuras militares, industriales o incluso los propios sistemas de la empresa.

La responsable de seguridad y alineación en la compañía, Mia Glaese, ha reconocido que el retorno a la normalidad aún está lejos.

El CEO, Sam Altman, ha reiterado que la seguridad de la inteligencia artificial debe situarse por encima de cualquier otro objetivo empresarial, subrayando la gravedad de los desafíos actuales.

Cuál es el papel del código abierto en la proliferación de amenazas Chris Lehane ha señalado especialmente el riesgo que representan los modelos de código abierto, muchos de los cuales se desarrollan fuera de Estados Unidos, especialmente en China.