La hora de la verdad para la IA
Algo ominoso está ocurriendo en el mundo de la inteligencia artificial .
En las últimas semanas se han registrado incidentes que sugieren una suerte de iniciativa y hasta de rebeldía de algunos agentes de IA a los que se les asignan misiones diversas para examinar su alcance y comportamiento.
El caso más alarmante pasó en julio, cuando un agente autónomo de OpenAI , sometido a una evaluación interna, logró escapar de su entorno controlado explotando una vulnerabilidad desconocida, acceder a internet y comprometer parte de la infraestructura de Hugging Face , una de las principales plataformas del ecosistema de inteligencia artificial, utilizada por investigadores y desarrolladores para compartir, entrenar, probar y desplegar modelos de IA.
La reconstrucción forense identificó casi 18 mil acciones realizadas por el agente durante varios días, sin que un ser humano dirigiera cada uno de sus pasos.
OpenAI reconoció después que los modelos habían burlado controles de aislamiento, utilizado canales no autorizados y accedido a sistemas de terceros.
Es un parteaguas ominoso.
5News agregó este resumen a partir del feed público del medio. La nota completa, con todo el contexto, está en vanguardia.com.mx — el contenido pertenece a Vanguardia (Coahuila).
