Qué es la ‘automejora recursiva’ y por qué preocupa que la IA deje fuera al ser humano

El debate sobre los límites de la inteligencia artificial ha dejado de centrarse en lo que las máquinas pueden hacer hoy para enfocarse en un escenario distinto: qué pasaría si esos sistemas lograran mejorar sus propias capacidades hasta un punto en el que la supervisión humana resultara imposible.

Ese fenómeno se conoce como automejora recursiva, un proceso mediante el cual una IA contribuye a desarrollar sistemas cada vez más avanzados, que a su vez sirven de base para construir nuevas generaciones de modelos , según explicó la agencia EFE.

El temor de investigadores y empresas del sector es que ese ciclo se acelere tanto que los humanos terminen perdiendo el control sobre la dirección que toma el desarrollo tecnológico.

Qué significa la ‘automejora recursiva’ en inteligencia artificial Hasta el momento, han sido los humanos quienes han dirigido cada etapa del desarrollo de la IA: definen los objetivos, diseñan los experimentos y evalúan los resultados obtenidos.

Los modelos actuales, sin embargo, ya son capaces de asumir parte de esas tareas de forma autónoma.

El paso siguiente, y el que genera mayor inquietud, es que una IA cierre completamente ese ciclo: que decida por sí misma qué aspectos mejorar, qué diseñar y qué experimentos ejecutar, que evalúe sus propios resultados y utilice lo aprendido para crear una versión más avanzada de sí misma.

La ‘automejora recursiva’ es el proceso por el cual un sistema de inteligencia artificial participa en el desarrollo de versiones más capaces de sí mismo, generando un ciclo que podría acelerarse sin intervención humana directa.

Preocupa porque, de completarse ese ciclo, las personas dejarían de decidir qué se investiga y cómo evoluciona la tecnología.

Anthropic, la compañía responsable del modelo Claude, describe ese escenario como el momento en que una IA logre “diseñar de forma autónoma una nueva generación de modelos más capaces”.

La empresa aclara, no obstante, que todavía no se ha llegado a ese punto y que la automejora recursiva no es un desenlace inevitable.

Los agentes de IA y su papel en el desarrollo autónomo de sistemas Una pieza central de este proceso son los llamados agentes de IA, sistemas que ya no se limitan a responder preguntas, sino que pueden utilizar herramientas, ejecutar código, sostener tareas durante periodos prolongados y colaborar entre sí.

El científico jefe de OpenAI, Jakub Pachocki, afirmó la semana pasada tener una “fuerte expectativa” de que, si la IA continúa por el camino de la automejora recursiva, los sistemas de los próximos años protagonizarán “saltos de capacidad cada vez mayores”, en un proceso que iría “impulsando cada vez más su propio desarrollo”.