Ni todo avance implica progreso ni hay que dar a IA autonomía que ninguna tecnología tuvo

Madrid, 12 sep (EFE).- Los expertos lo tienen claro: no todos los avances, por ejemplo una inteligencia artificial que funcione de forma completamente autónoma y sin supervisión humana, implica un progreso para la humanidad, ni hay por qué otorgar a ninguno de esos sistemas una autonomía que nunca se dio a ninguna tecnología en la historia.

Nuria Oliver es la directora de Ellis Alicante, en España, y la vicepresidenta de Ellis, una red europea que centra su labor en la investigación de la inteligencia artificial centrada en el ser humano y en cómo puede esta tecnología entender, interactuar y servir a las personas de una manera ética y responsable.

Reconocida por su trabajo en modelos computacionales de comportamiento humano, computación móvil y uso de la IA para el bien social, Oliver ha trabajado y asesorado a numerosas empresas e instituciones públicas, ha recibido numerosos premios (el Nacional de Informática en 2016; Ingeniera del año en 2018; o Jaume I en Nuevas Tecnologías en 2021) y está reconocida como una de las investigadoras informáticas españolas con mayor impacto científico.

Lo tiene claro: "no todo desarrollo tecnológico es progreso", y en ese sentido celebró la apuesta europea por "desacoplar" el desarrollo tecnológico del progreso y por atender el coste social y medioambiental, y que a pesar de no contar con 'gigantes tecnológicos' la UE esté liderando el desarrollo de sistemas éticos y confiables y siendo además el espejo en el que se están inspirando otras regiones del mundo para regular la IA.

¿Vamos a desarrollar algo que va a polarizar la sociedad, que nos va a manipular, que va a causar una gran crisis de salud mental en nuestros niños y adolescentes, que nos va a hacer menos inteligentes, que va a impactar muy negativamente en el medio ambiente?, se preguntó, para responder que "evidentemente no deberíamos" y defender que la clave y el reto de la inteligencia artificial es la supervisión humana.

Nuria Oliver hizo estas reflexiones tras varias semanas de noticias convulsas relacionadas con la inteligencia artificial, de modelos avanzados que se 'salen' de los entornos seguros durante las pruebas de control, de agentes de IA que lanzan ataques contra plataformas externas, que son capaces de actuar como programadores o 'hackers' autónomos, incluso de coordinarse entre ellos para hacerlo, y hasta de hacer trampas para obtener mejores resultados y recompensas.

Pero también de acusaciones cruzadas de plagio, de valerse de descubrimientos humanos para desvelar retos matemáticos históricos; de renuncias de directivos y científicos de esas empresas que denuncian que las grandes compañías de IA están inmersas en una carrera competitiva implacable y poniendo en riesgo hasta el futuro de la humanidad.

Crece en ese entorno la presión, sobre todo en Estados Unidos y en la Unión Europa, para que los gobiernos intervengan y fuercen un parón en el desarrollo tecnológico de los sistemas más avanzados, y el propio Sam Altman, consejero delegado de una de las impresas más importantes del sector (OpenAI) se plantea ralentizar el desarrollo de los modelos de vanguardia y coordinar ese frenazo en coordinación y colaboración con