¿Qué es el RSI? La técnica que podría provocar que la IA se salga de control

Nueva York, 14 sep (EFE).– El debate sobre los riesgos de la inteligencia artificial (IA) ya no trata solo sobre qué pueden hacer las máquinas, sino de qué ocurrirá si fueran capaces de mejorar sus propias capacidades hasta hacer imposible que los humanos las supervisen.

Se trata de la llamada 'automejora recursiva', o RSI por sus siglas en inglés, mediante la cual una IA puede ayudar a desarrollar sistemas cada vez más capaces, que a su vez contribuyen a construir nuevas generaciones de modelos.

El temor es que ese ciclo acelere hasta un punto en el que los humanos pierdan el control sobre su desarrollo.

Hasta ahora, los humanos han dirigido las etapas del desarrollo de la IA, definiendo sus objetivos y evaluando resultados.

Sin embargo, los modelos actuales ya pueden asumir parte de esas tareas.

El siguiente salto es que una IA cierre ese ciclo y decida qué mejorar, qué diseñar y qué experimentos realizar, evalúe sus resultados y use lo aprendido para desarrollar una versión más avanzada de sí misma.

Anthropic, creadora del modelo Claude, define ese escenario como el momento en que una IA pueda "diseñar de forma autónoma una nueva generación de modelos más capaces", aunque asegura que todavía no se ha llegado a ese punto y que la automejora recursiva no es inevitable.

En los últimos días, Anthropic ha vuelto a advertir sobre la velocidad a la que sus modelos están empezando a contribuir al desarrollo de sistemas de IA, e investigadores de la compañía han alertado de los riesgos que eso conlleva.

Uno de ellos, Jacob Coxon, abandonó la empresa tras advertir de que la industria avanza demasiado rápido hacia sistemas capaces de mejorarse a sí mismos.

Anthropic sostiene que todavía no se ha cerrado completamente ese ciclo y que los humanos siguen decidiendo qué problemas investigar; pero sí ha reconocido que los avances de Claude pueden conducir a la automejora recursiva, algo que, según la empresa, está ocurriendo "más rápido de lo que se pensaba".

El experto Vincent Conitzer explicó a la cadena CNBC que la IA "ya es capaz de introducir algunas ideas nuevas" como proponer una forma diferente de resolver un problema o de mejorar un programa.

El problema es que "resulta difícil saber cuándo esa capacidad suponga acelerar de forma drástica el desarrollo de sistemas de IA cada vez más avanzados", agregó.

Una pieza fundamental de este proceso son los llamados agentes de IA: sistemas capaces no solo de responder a una petición, sino de utilizar herramientas, ejecutar código, realizar tareas durante periodos prolongados y colaborar con otros sistemas.