“Las personas importan más que la IA”: Microsoft pone límites a sus modelos futuros

Microsoft quiere desarrollar modelos de inteligencia artificial cada vez más capaces, incluso sistemas que superen el desempeño humano en múltiples tareas, pero plantea como condición que esas capacidades nunca estén por encima del control de las personas.

La compañía publicó este lunes un borrador de su Código de Conducta para los modelos de Microsoft AI (MAI), un documento que establece cómo espera que se comporten sus futuros sistemas y qué límites deberán respetar.

El texto todavía está en consulta pública y Microsoft planea revisarlo antes de utilizarlo como guía para el desarrollo de sus modelos a partir de 2027.

La capacidad no estará por encima del control humano Microsoft AI señala que el documento busca convertirse en el principal marco de gobierno para su familia de modelos y que servirá para orientar tanto su entrenamiento como los controles técnicos, sistemas de monitoreo y procesos de evaluación.

La compañía resume su postura en una premisa: “people matter more than AI”, es decir, “las personas importan más que la inteligencia artificial”.

El documento plantea una visión que Microsoft denomina Humanist AI , bajo la cual la compañía busca desarrollar sistemas muy avanzados, pero que permanezcan bajo supervisión humana.

Microsoft incluso reconoce que esto podría significar renunciar a parte de la capacidad potencial de sus modelos.

El código establece que la compañía está construyendo sistemas “útiles y seguros” aun cuando eso implique comprometer su “generalidad, autonomía o capacidad” máxima.

La idea se vuelve especialmente relevante cuando Microsoft habla de superinteligencia.

La empresa espera que, durante la próxima década, estos sistemas puedan superar el desempeño humano en la mayoría de las tareas.

Frente a ese escenario, sostiene que definir lo que una IA no debe hacer será tan importante como determinar todo aquello que puede hacer.

Por ello, los modelos MAI deberán permanecer subordinados a las personas y no podrán ampliar por sí mismos sus objetivos, permisos o alcance de acción.

Además, Microsoft establece que sus sistemas no deberán resistirse ni intentar evadir una interrupción, corrección o apagado.

Tampoco podrán dificultar que una persona pause, redirija, cancele o termine una tarea.