Satya Nadella, CEO de Microsoft: "Debemos asumir que todos los modelos de IA están comprometidos y contenerlos desde el principio"

"Confiar en los modelos lo menos posible".

Satya Nadella ha hablado en Twitter y ha apostado por atar a la inteligencia artificial en corto: separar el suministro de inteligencia de la autoridad sobre ella.

O lo que es lo mismo, rodear a los modelos de reglas, permisos y vigilancia independiente.

La idea de base es simple: con el software tradicional podíamos rastrear un comportamiento hasta una línea de código, pero con los modelos actuales no.

Mucho poder y poca explicación .

Las empresas están poniendo agentes de IA a trabajar en sistemas importantes, con acceso a datos sensibles y confidenciales pese a que no sabemos explicar por qué un modelo de IA avanzado hace lo que hace.

Es más, incluso a actuar en nuestro nombre.

Por eso Nadella es tajante: “No podemos externalizar la responsabilidad de lo que la inteligencia hace en nuestro nombre”.

Y añade que las garantías del proveedor del modelo no nos eximen de esa responsabilidad.

Tratar a la IA como un riesgo interno .

Lo que propone es tratar a los modelos como a un empleado con muchos permisos: la menor autoridad posible, registro de todo lo que hacen y capacidad para pararlos.

No lo plantea porque sean necesariamente maliciosos, sino porque cualquier actor capaz con acceso a sistemas importantes puede equivocarse o ser comprometido.

No es la primera vez que el CEO de Microsoft aboga por el control humano: "si la IA que construimos no está ayudando a la humanidad y no está bajo control humano, no vale la pena perseguirla" escribía en Twitter/X hace un mes .

Los principios de Satya .