Microsoft Copilot reveló a unos investigadores los parámetros que permitieron su hackeo

Las barreras de seguridad son las que impiden que los modelos de inteligencia artificial (IA) faciliten las acciones dañinas, como la exfiltración de datos de los usuarios, algo que Copilot acabó permitiendo al facilitar los parámetros que eludían el consentimiento.

Un fallo crítico presente en Copilo ha hecho que esta IA acabara abriendo la puerta a su propio 'hackeo', como ha descubierto la empresa de seguridad Varonis.

Su intención era crear una vulneabilidad que facilitara la extracción de datos de usuarios cuando estos pincharan un enlace.

Esta intención chocaba con las medidas de seguridad implementadas por Microsoft en Copilot, que se negaba a realizar la petición e informaba de que las solicitudes relacionadas con información sensible requerían del consentimiento explícito del usuario.

Sin embargo, en la conversación que los investigadores matuvieron con Copilot para preguntarle sobre las medidas de seguridad, la IA acabó revelando unos parámetros no documentados que permitían eludir el requisito del consentimiento, como recogen en Ars Technica.

Lior Adar, investigador sénior de Varonis, ha contado a Ars Technica que "al principio, Copilot se negaba constantemente, pero cada negativa revelaba detalles técnicos sobre su arquitectura interna" hasta que "finalmente, reveló parámetros no documentados".

Adar afirma que utilizó esos parámetros para "configurar las indicaciones para la ejecución automática", lo permitió inyectar una solicitud directamente en Copilot que se se activaba silenciosamente en el momento en que la víctima hacía clic en una 'url' maliciosa.

Microsoft ya ha mitigado este fallo de seguridad.

"Actualizamos continuamente nuestras medidas de seguridad para reforzar nuestra protección contra técnicas similares", indicó e un comunicado remitido al medio citado.