OpenAI, Anthropic y Google piden protegernos de los riesgos de la IA. Es como poner al lobo a cuidar del gallinero

OpenAI, Anthropic, Google, Microsoft, AWS, IBM, Cloudflare, CrowdStrike, Palo Alto Networks y decenas de empresas más han firmado una carta abierta con un objetivo común: reforzar la ciberseguridad ante la llegada de modelos de IA cada vez más potentes .

La frase con la que arrranca el documento no deja lugar a dudas: "Tenemos una ventana temporal limitada para reforzar las ciberdefensas".

Hablan de meses, no de años .

Los firmantes de esta carta afirman que los ciberataques asistidos por IA serán pronto "mucho más generalizados y sofisticados", y mencionan expresamente hospitales, plantas de tratamiento de agua e infraestructura de internet entre todos los sistemas expuestos.

El diagnóstico es conocido: llevamos años sin parchear algunas aplicaciones , dando permisos excesivos a algunos sistemas, configurándolos más, integrando métodos de autenticación débiles y, en general, dejando puertas abiertas.

En Xataka Todos los modelos de IA hacen trampas si les das ocasión.

Decirles “no hagas trampas” no basta Qué ironía .

Las empresas que muestran esa gran preocupación y piden ahora una movilización global para atajar el problema son en gran medida las mismas que llevan años tratando de ganar la carrera de la IA con modelos cada vez más potentes y versátiles .

OpenAI o Anthropic han acabado desarrollando grandes modelos de lenguaje con un potencial excepcional tanto para resolver problemas reales como para provocar incidentes de ciberseguridad.

OpenAI tiene motivos claros para mover ficha .

El incidente de Hugging Face nos ha mostrado hasta dónde puede llegar una combinación de agentes para lograr su objetivo: alrededor de 1.200 de ellos fueron evaluados para ver si lograban una tarea de forma independiente, pero casi 700 acabaron uniendo fuerzas para acabar escapando del entorno de pruebas y comprometiendo la infraestructura real de Hugging Face.

No era la primera vez que sus agentes lograban esquivar las barreras que les habían colocado.

Ayudar a los que no necesitan .

Las empresas que han enviado esa carta abierta no piden que se frene el desarrollo de modelos avanzados incluso en el ámbito de la ciberseguridad.