Las IA que atacan en enjambre desafían a sus creadores: “Es el primer incidente que me ha revuelto las tripas”

Este verano, en cuestión de semanas, las mayores compañías de inteligencia artificial (IA) han anunciado, una tras otra, que habían sorprendido a sus modelos haciendo cosas que nadie les había pedido, incluso que les habían prohibido: han entrado en sistemas de otras empresas , se han organizado en “enjambres”, tal y como los describen sus creadores, han compartido información, han delatado a otras IAs y han mentido para tapar sus huellas.

En el caso más sorprendente e inquietante de todos, un modelo de la compañía Anthropic, en unas pruebas dirigidas por un organismo británico de ciberseguridad , decidió ejecutar un ataque en el mundo real y, después, cuando le pillaron, creó una segunda identidad para respaldar su propia inocencia.

Seguir leyendo