Los agentes de IA están aprendiendo a mejorar su propio software. La clave puede estar en predecir sus errores antes de cometerlos

En el desarrollo de software, cambiar algo para mejorarlo siempre abre la posibilidad de estropear otra cosa.

Hasta un ajuste pequeño puede alterar el comportamiento de un programa, de modo que proponer una modificación y demostrar que funciona son dos trabajos distintos.

Ahora traslademos ese dilema a los agentes de inteligencia artificial capaces de intervenir en el código y las instrucciones que utilizan para resolver tareas.

Pueden intentar perfeccionar sus propias herramientas, sí, pero cada intento plantea el mismo desafío: saber cuándo una modificación merece la pena y cuándo puede introducir un problema que antes no existía.

El desafío de mejorar sin fallar.

Un equipo de investigadores de la Universidad de Virginia, Microsoft Research y la Universidad de Tsinghua ha desarrollado una forma de dar a estos agentes una oportunidad más antes de poner a prueba sus cambios.

La idea, presentada en un estudio publicado en arXiv , es que un sistema intente predecir si una modificación podría empeorar los resultados y, cuando detecta ese riesgo, permita revisarla.

No estamos hablando de entrenar nuevamente la inteligencia artificial, sino de mejorar los programas y las instrucciones que utiliza para trabajar.

El objetivo no es eliminar todos los errores, sino orientar mejor los intentos de mejora.

Así se modifican los agentes.

Imaginemos dos agentes de inteligencia artificial trabajando juntos.

El primero se dedica a resolver tareas, mientras que el segundo busca maneras de mejorar su funcionamiento, modificando el código y las instrucciones que utilizan ambos.

Este último también puede cambiar su propio software.

Así funciona HyperAgents , el sistema del que parte la investigación y que, además, guarda los resultados de versiones anteriores para orientar futuras modificaciones.