Microsoft pone límites a la IA en los colegios: estos son los datos de los alumnos que ya no podrá utilizar

Microsoft ha acordado implementar diez principios de seguridad y privacidad para regular el uso de la inteligencia artificial en los colegios.

Hace apenas una semana, grandes distritos escolares como Nueva York y Los Ángeles anunciaron suspensiones temporales del uso de herramientas de IA en las clases para analizar sus riesgos e imponer la seguridad adecuada.Frente al recelo que muestran familias y docentes respecto al impacto de la tecnología en los menores de edad, la compañía de Satya Nadella ha pactado una serie de reglas, recogidas en la 'Norma nacional de seguridad y privacidad en materia de IA' , que los centros educativos de Estados Unidos podrán incorporar en sus contratos a partir de noviembre.El pacto se aprobó junto a la Federación Estadounidense de Profesores (AFT, por sus siglas en inglés) y su filial neoyorquina UFT.

Ante la falta de un marco legal que regule las herramientas de IA en el ámbito educativo, la iniciativa otorga la responsabilidad de la protección de datos a las tecnológicas.Así, los centros escolares tendrán unas salvaguardas legales para evitar que los datos personales y privados de los alumnos acaben convertidos en material comercial o de entrenamiento informático, entre otras condiciones.Medidas de protección para los centros educativosProhibición del entrenamiento de la IA con datos de alumnos o docentes.

Minimización de datos desde el diseño, solo recopilan lo necesario.

Los alumnos son los propietarios de sus datos, no pueden venderse ni utilizarse con fines publicitarios o para el desarrollo de productos.

Supervisión humana y explicabilidad para las decisiones difíciles, prohibiendo los «compañeros de IA».

Los proveedores deben mantener sus certificaciones, notificar las infracciones y subsanarlas.

Los datos están cifrados, su acceso está controlado, se someten a pruebas independientes y están amparados por planes de respuesta ante incidentes.

Consentimiento significativo y transparencia para las familias, que recibirán guías claras.

Los productos deben ser accesibles y justos.

Sin 'feature creep' ni dependencia de un solo proveedor.

Responsabilidad a largo plazo sobre los datos, que solo se conservarán cuando sea necesario.Un marco ejecutable con auditorías e indemnizaciones«Este estándar establece un listón alto para la privacidad infantil y la seguridad de la IA y extenderemos este acuerdo a todos los distritos escolares del país», declaró Brad Smith, presidente y vicepresidente de Microsoft, en un comunicado .