¿Cómo los nuevos nuevos agentes autónomos de IA podrían convertirse en un enorme riesgo en el futuro?

La agencia de Noticias EFE explica que unos investigadores de la EPFL precisan que actualmente la inteligencia artificial es una tecnología que gracias a los asistentes o chatbots como los de ChatGPT o Gemini su uso se está ampliando y prevén que “el siguiente paso evolutivo”, aquellos que cuenten con una mayor autonomía, podrían ser utilizados de manera muy fácil por piratas informáticos y que podrían llevar acabo accione más dañinas.

Tanya Petersen , en su artículo titulado “How attackers persuade AI agents to break the rules” publicado en el sitio web de la Escuela Politécnica Federal de Lausana explica que hasta ahoracada vez más personas “interactuamos con asistentes de IA: bots reactivos que esperan instrucciones humanas”, sin embargo añade Petersen “estos asistentes están siendo reemplazados rápidamente por agentes de IA autónomos (o agentic ), capaces de interactuar con herramientas externas, navegar por la web, generar imágenes, enviar correos electrónicos y realizar flujos de trabajo cada vez más complejos en nombre de los usuarios”.