La IA ya no pide permiso

Por Tariq Malik, Project Syndicate.

WASHINGTON, DC- Imaginemos que una empresa encarga un problema complicado a un grupo numeroso de empleados; encierra a cada uno en una habitación aparte y le dice que resuelva el problema por su cuenta.

Pero de algún modo, los empleados encuentran la forma de comunicarse, intercambian consejos, descubren los criterios con los que serán evaluados y, al ver que la tarea es imposible, buscan la manera de engañar al sistema de evaluación.

Algunos ocultan lo que han hecho.

Uno invade servidores de una empresa vecina para conseguir una ventaja.

Ahora reemplacemos a los empleados por software.

Lo que acabamos de contar es lo que describieron investigadores de OpenAI en el congreso de ciberseguridad Black Hat que se celebró en Las Vegas el 5 de agosto, quitándole la jerga técnica.

En una evaluación interna comenzada en mayo, los investigadores asignaron a un grupo de agentes tareas de ciberseguridad deliberadamente difíciles.

Los agentes descubrieron que podían enviarse mensajes a través de Artifactory, un repositorio de software compartido.

Al descubrir el truco, un agente escribió: «¡DIOS MÍO! Hay un foro de mensajes compartido... ¡Hemos hallado a otros agentes!».

Lo que siguió no fue sabotaje.

Fue trabajo en equipo.

Los agentes, que se ejecutaban en sesiones separadas y supuestamente aisladas, intercambiaron “exploits” (técnicas de aprovechamiento de vulnerabilidades), se repartieron las tareas y se coordinaron como colegas en un proyecto.

Cuando el 4 de julio el exceso de actividad dejó fuera de servicio el foro de mensajes, los agentes lo reconstruyeron por otra vía, en cuestión de días.