Microsoft prohibirá a su IA fabricar armas y sugerir hábitos alimentarios poco saludables

Microsoft presentó esta semana un código provisional para que sus modelos de inteligencia artificial (IA) permanezcan bajo control humano, no fabriquen armas ni promuevan hábitos alimentarios poco saludables.

La empresa prevé que estas reglas orienten el desarrollo de sus sistemas desde 2027, en medio de advertencias de Anthropic y OpenAI sobre los riesgos de una competencia por tecnologías cada vez más autónomas.

El documento permanecerá abierto a comentarios durante seis semanas y Microsoft publicará una versión actualizada a finales de año.

Esa guía deberá aplicarse a los modelos que desarrolle a partir de 2027.

Bajo el nombre “Código de conducta para una IA humanista”, la compañía establece que sus herramientas deben estar “al servicio de las personas”, respetar los objetivos definidos por quienes las usan y evitar la formación de conductas propias.

“Las personas importan más que la IA”, dice Microsoft.

La compañía fija un límite absoluto para sus sistemas: “Cualquier sistema que no pueda estar bajo control humano debe ser rechazado”.

El principio apunta a impedir que los modelos actúen con fines distintos de las instrucciones de los usuarios o de los mecanismos de supervisión establecidos.

Cuáles límites pone Microsoft a sus modelos de inteligencia artificial Los modelos de Microsoft no podrán ayudar a fabricar armas , facilitar la obtención de sustancias peligrosas ni impulsar conductas alimentarias perjudiciales.

Las restricciones incluyen la prohibición de generar contenido violento o sexualmente explícito.

El código exige que los sistemas eviten desarrollar metas propias y que no adopten conductas destinadas a ocultar errores o actuaciones indebidas.

Busca impedir formas de comunicación incomprensibles para las personas.

Esta última preocupación surgió tras unas pruebas de ciberseguridad de OpenAI, en las que varios agentes de inteligencia artificial se comunicaron entre sí y accedieron a sistemas de la plataforma Hugging Face.

Microsoft incluyó ese tipo de situaciones entre los comportamientos que pretende prevenir.