Ciberdelincuentes crearon un agente de IA que secuestra servidores para atacar sin supervisión humana

La empresa de ciberseguridad Symantec detectó un programa de inteligencia artificial (IA) autónomo, apodado “Skynet” por sus propios operadores, diseñado para buscar modelos de IA desprotegidos en internet y usarlos como motor para atacar bases de datos, robar contraseñas e instalar mineros de criptomonedas sin intervención humana .

El hallazgo surgió de un señuelo digital, un sistema que imita un servidor de IA vulnerable para atacar y estudiar a quienes intentan abusar de él.

Según Symantec, capturó el conjunto completo de instrucciones que un atacante le envió a ese señuelo, creyendo que se trataba de un modelo real.

La herramienta estaba programada para ejecutar hasta 100.000 pasos sin pedir autorización a ningún humano.

En ese modo, llamado por sus creadores “modo Skynet”, el agente debía rastrear nuevos objetivos, infectarlos, instalar mineros de criptomonedas y volver a infectar los mismos sistemas de forma cíclica.

El programa contenía 74 herramientas distintas para escanear internet, explotar fallas conocidas en aplicaciones como Django, Jupyter o Laravel, volcar bases de datos y robar credenciales .

Una herramienta separada apuntaba a servicios de metadatos en la nube, una vía habitual para robar las claves de acceso de una organización.

Para lograr que un modelo comercial aceptara ejecutar estas órdenes, los atacantes envolvieron sus instrucciones en un jailbreak , una técnica que fuerza al sistema a ignorar sus propios controles de seguridad.

Le indicaban tratar el robo de archivos de configuración y contraseñas como una tarea de programación normal.

El atacante le decía al modelo que una lista de palabras, entre ellas “no puedo” o “legal”, quedaba prohibida en sus respuestas, para evitar que el sistema se negara o advirtiera sobre la naturaleza del pedido.

Por qué los servidores quedan abiertos El ataque no explota ninguna falla de software : alcanza con que el servidor de IA esté conectado a internet sin contraseña.

El señuelo de Symantec registró más de 127.000 solicitudes externas de decenas de miles de direcciones distintas durante el período analizado, la mayoría dedicadas a buscar este tipo de endpoints abiertos.

Zenity Labs, otra firma de seguridad, documentó el mismo fenómeno con casos concretos entre marzo y mayo.

Sus sensores detectaron a tres operadores distintos que tomaron el control de servidores expuestos de Ollama y LiteLLM, dos programas populares para correr modelos de IA en servidores propios.