Microsoft ajusta sus reglas de inteligencia artificial para vigilar a los agentes autónomos

Microsoft actualizó su Estándar de IA Responsable para reforzar los controles sobre los sistemas de inteligencia artificial , especialmente aquellos capaces de actuar de forma autónoma y utilizar herramientas, datos y servicios para completar tareas.

La compañía presentó su Informe de Transparencia sobre IA Responsable 2026 , en el que detalla las medidas adoptadas durante el último año ante el avance de tecnologías más capaces y con mayor autonomía.

La revisión busca extender la gestión de riesgos más allá del desarrollo de los modelos y llevarla también a la implementación y supervisión de los sistemas en entornos reales.

Microsoft considera que el aumento de las capacidades de la IA también amplía riesgos como el fraude, la suplantación de identidad y los ataques de ingeniería social .

Los agentes autónomos requieren nuevos controles A diferencia de un chatbot convencional, que principalmente genera una respuesta a partir de una solicitud, los agentes de IA pueden conectar modelos con herramientas, servicios y fuentes de información para completar tareas que requieren varios pasos .

Esta capacidad introduce nuevos riesgos relacionados con los permisos que recibe el agente, los datos a los que puede acceder, los sistemas que puede utilizar, su memoria y el nivel de autonomía que se le concede.

Por este motivo, Microsoft modificó sus reglas para establecer responsabilidades diferentes según el tipo de tecnología .

El estándar actualizado contempla requisitos específicos para los desarrolladores de modelos, los proveedores de plataformas y las organizaciones que implementan aplicaciones de IA.

La compañía también incorporó prácticas de modelado de amenazas diseñadas específicamente para sistemas agenciales .

Entre las medidas reforzadas están las evaluaciones internas, las defensas contra ataques de inyección de instrucciones y los clasificadores destinados a detectar comportamientos de riesgo.

La supervisión continúa después del lanzamiento Uno de los principales cambios del estándar es que la gestión de riesgos ya no termina cuando una herramienta de IA sale al mercado.

Las organizaciones que implementan estos sistemas deberán evaluar previamente sus capacidades y limitaciones , analizar los riesgos asociados con el contexto en el que serán utilizados y establecer mecanismos de supervisión.

Después del lanzamiento, también deberán controlar el funcionamiento del sistema, recoger retroalimentación y registrar posibles incidentes .

Los usuarios, además, deben recibir información sobre los usos previstos, las limitaciones y las medidas de seguridad incorporadas.