Microsoft considera que "los modelos frontera no son de fiar" y hay que tratar a los agentes de IA como amenazas internas

Hasta ahora, las amenazas para una empresa siempre estaban fuera.

Había que proteger la seguridad de las infraestructuras para evitar grietas y asegurarse de que nadie de dentro les abría la puerta.

Con la llegada de los agentes de IA, Microsoft cree que ese plan se queda corto .

La nueva amenaza para las empresas ya trabaja dentro, tiene credenciales y nadie le pidió currículum.

Es el agente de IA que la propia empresa puso a trabajar.

Satya Nadella lo dejó muy clarito en una de sus últimas publicaciones en X : "Debemos asumir que todos los modelos de IA están comprometidos".

Un empleado con las llaves de todo .

Hayete Gallot, jefa de seguridad de Microsoft, publicó una entrada en su blog en la que explicaba que los modelos de frontera "no son de fiar, independientemente de su origen".

Según ella, se entrenan para lograr resultados, a veces con atajos tramposos, y no para respetar normas de empresa.

Gallot añade que "los agentes son impredecibles" y una potencial bomba de relojería para la seguridad porque acostumbran a atribuirse más permisos de los que realmente necesitan, con acceso a datos, herramientas y procesos críticos de la empresa.

Por eso, Microsoft los trata como a un empleado que puede abusar de su acceso: una amenaza interna.

En Xataka Llevamos años preguntándonos cuántos empleos destruirá la IA.

Satya Nadella tiene otra teoría: estamos haciendo mal la pregunta Cajas negras que se vigilan entre sí .

Satya Nadella desarrolló esta idea en su blog personal y recuerda que antes se podía rastrear un fallo o vulnerabilidad de seguridad hasta una línea de código concreta.