O que é o autoaperfeiçoamento recursivo? A competência que pode fazer com que a IA fuja do controlo

O debate sobre os riscos da inteligência artificial (IA) já não se centra apenas no que as máquinas podem fazer, mas no que acontecerá se forem capazes de melhorar as suas próprias capacidades até que seja impossível os seres humanos supervisionarem-nas.

Trata-se do chamada “autoaperfeiçoamento recursivo”, ou RSI (sigla em inglês), através da qual uma IA pode ajudar a desenvolver sistemas cada vez mais capazes, que, por sua vez, contribuem para construir novas gerações de modelos.

O receio é de que esse ciclo se acelere até um ponto em que os seres humanos percam o controlo sobre o seu desenvolvimento.

Até agora, os seres humanos têm orientado as etapas do desenvolvimento da IA, definindo os seus objetivos e avaliando os resultados. No entanto, os modelos atuais já podem assumir parte dessas tarefas.

O passo seguinte é que uma IA feche esse ciclo e decida o que melhorar, o que conceber e que experiências realizar, avalie os seus resultados e utilize o que aprendeu para desenvolver uma versão mais avançada de si própria.

A Anthropic, criadora do modelo Claude, define esse cenário como o momento em que a IA pode "conceber de forma autónoma uma nova geração de modelos mais capazes", embora assegure que ainda não se chegou a esse ponto e que o autoaperfeiçoamento recursivo não é inevitável.

Nos últimos dias, a Anthropic voltou a alertar para a velocidade a que os seus modelos estão a começar a contribuir para o desenvolvimento de sistemas de IA, e investigadores da empresa alertaram para os riscos que isso implica.

Um deles, Jacob Coxon, deixou a empresa depois de alertar para o facto de a indústria estar a avançar demasiado depressa para sistemas capazes de se aperfeiçoarem a si próprios.

A Anthropic sustenta que esse ciclo ainda não foi completamente fechado e que os seres humanos continuam a decidir que problemas investigar, mas reconheceu que os avanços do Claude podem conduzir ao autoaperfeiçoamento recursivo, algo que, segundo a empresa, está a acontecer "mais depressa do que se pensava".

O especialista Vincent Conitzer explicou à CNBC que a IA "já é capaz de introduzir algumas ideias novas", como propor uma forma diferente de resolver um problema ou de melhorar um programa.

O problema é que "é difícil saber quando é que essa capacidade vai ser sinónimo de acelerar de forma drástica o desenvolvimento de sistemas de IA cada vez mais avançados", acrescentou.

Uma peça fundamental deste processo são os chamados agentes de IA: sistemas capazes não só de responder a um pedido, mas também de utilizar ferramentas, executar código, realizar tarefas durante períodos prolongados e colaborar com outros sistemas.

O cientista-chefe da OpenAI, Jakub Pachocki, afirmou na semana passada ter uma "forte expectativa" de que, se a IA continuar a avançar pelo caminho da RSI, os sistemas dos próximos anos darão "saltos de capacidade cada vez maiores", "impulsionando cada vez mais o seu próprio desenvolvimento".

A preocupação já não é apenas teórica: durante um teste recente de cibersegurança, agentes da OpenAI conseguiram escapar do seu ambiente de avaliação e aceder a sistemas da plataforma Hugging Face.