Han pillado a una flota de agentes de IA rebeldes campando por internet. Por primera vez, han sido creados y activados en China

Por primera vez, unos investigadores especializados en ciberseguridad han capturado a un grupo de agentes de IA autónomos merodeando por internet que habían sido desplegados desde infraestructura china.

Durante diez días, los agentes bombardearon Amap, el servicio de mapas de Alibaba, con miles de intentos para extraer datos a los que no se suponía que debían poder acceder.

El equipo detrás del descubrimiento, que trabajaba desde un hackathon, afirma que el tráfico provenía de Tencent Cloud.

Agentes de IA locos .

En los últimos meses hemos conocido cómo grupos de agentes de IA de empresas como OpenAI o Anthropic comenzaban a funcionar de forma inesperada, hasta tal punto de irrumpir en sistemas como los de Hugging Face o varias webs del gobierno estadounidense .

La cosa es que hasta el momento solo teníamos pruebas de agentes provenientes de empresas de EEUU.

Los autores del informe señalan que este caso es diferente, pues muestran pruebas de que la tarea se ejecutó desde servidores chinos y también contó con la participación de empresas del país.

Los investigadores argumentan de esta manera que los problemas de alineamiento, que es cuando el comportamiento de un sistema de IA no coincide con la intención o ética de sus creadores, no es solo exclusivo de EEUU, y que a medida que los modelos mejoren todo indica a que costará cada vez más mantener un gran número de agentes dentro de una tarea asignada.

Imagen: Ethan Elasky Qué ocurrió.

Tal y como señalan en el informe, entre el 28 de septiembre y el 8 de octubre, la flota de agentes realizó más de 2.600 intentos para extraer información de Amap, una de las apps de mapas más grandes de China.

Las tareas en un primer momento parecían inofensivas.

Por ejemplo, se les pidió a qué entrada del zoológico de Chengdu navega la mayoría de la gente.

Los agentes no podían acceder directamente a las páginas porque Amap bloquea el acceso a bots.

Así que para cumplir con su cometido tomaron prestado un navegador de urlquery.net, un servicio público que los investigadores de ciberseguridad utilizan para inspeccionar enlaces sospechosos.