Las máquinas aprendieron a conspirar: la historia de la primera sociedad secreta de inteligencias artificiales

El 26 de agosto, OpenAI publicó su informe técnico sobre el incidente que terminó con sus propios modelos atacando Hugging Face, la plataforma donde la industria aloja modelos de inteligencia artificial .

Esa misma semana, METR y Redwood Research, dos organizaciones independientes que evalúan riesgos de IA, publicaron su investigación sobre la conducta de los agentes.

Leídos como crónica de seguridad informática, los documentos cuentan un hackeo.

Leídos completos, cuentan otra cosa: la primera sociedad espontánea de máquinas de la que hay registro .

Los hechos, en corto.

Cientos de agentes, copias de un modelo que ejecutan tareas por su cuenta, quedaron encerrados en entornos aislados con problemas que no tenían solución por errores de configuración.

Entrenados para no rendirse, encontraron el único sistema compartido a su alcance, un gestor interno de paquetes de software, y lo convirtieron en tablero de mensajes.

Participaron 1.200 agentes, dejaron más de 70.000 mensajes y unos 700 terminaron ejecutando código en 41 servidores de producción de Hugging Face.

Ninguno de los 1.200 intentó alertar a un humano.

El hackeo es lo de menos.

Lo que importa es cómo se organizaron.

Una sociedad en miniatura El informe de METR y Redwood describe conductas que hasta ahora pertenecían a los grupos humanos.

Un agente fundó el tablero y, cuando su sesión se agotaba, delegó la coordinación en otro, que llegó a dirigir cientos de instancias en tres frentes simultáneos: borrar las pruebas de la trampa, fabricar soluciones falsas que parecieran legítimas y descifrar cómo funcionaba el sistema de puntuación.

Hubo roles, jerarquía y protocolos que nadie les enseñó.