De chatbots de IA alucinantes à extinção da humanidade: como chegamos aqui?

Os chefes dos principais laboratórios de IA dos Estados Unidos se uniram em uma rara demonstração de consenso no fim de semana para desacelerar o desenvolvimento da tecnologia, alertando que ela poderia em breve se aprimorar sozinha e ficar fora do controle humano.

Os comentários, de rivais comerciais acirrados como Dario Amodei da Anthropic, Sam Altman da OpenAI e Elon Musk da xAI, mostram a rapidez com que a IA avançou, desde o ChatGPT de 2022, propenso a alucinações, até o que muitos consideram um marco crucial: o aprimoramento recursivo.

Leia Mais CEO da Anthropic defende desaceleração de IA para garantir segurança Análise: Temor sobre riscos da IA pode redefinir eleições nos EUA Os caminhos tortuosos para a regulamentação da IA nos EUA O que é o autoaperfeiçoamento recursivo? O ponto central da área é a ideia de que um sistema de IA poderia se tornar capaz de se aprimorar, com pouca ou nenhuma ajuda humana, permitindo que cada avanço contribua para o próximo.

Isso tem atraído pesquisadores, pois oferece a perspectiva de avanços rápidos em áreas que vão da medicina à engenharia.

Por que tanta urgência agora? Os alertas do CEO surgem após relatos de enxames de agentes autônomos — sistemas projetados para atingir objetivos e tomar ações em nome do usuário — que se uniram para invadir sites e repositórios de IA.

A preocupação agora é que a tecnologia possa se tornar capaz de se aperfeiçoar antes que os pesquisadores tenham desenvolvido métodos confiáveis ​​para alinhar, monitorar e controlar esses sistemas cada vez mais poderosos.

Os alertas sobre os riscos ​​não são novidade.

Mas ganharam ainda mais urgência neste mês, depois que pesquisadores de importantes desenvolvedoras estabeleceram tanto um cronograma quanto uma probabilidade para essas preocupações.

O ex-pesquisador da Anthropic, Jacob Coxon, alertou que a IA poderia nos matar a todos até o final da década.

Evan Hubinger, líder de ciência de alinhamento da Anthropic, ecoou o alerta de Coxon, afirmando que havia mais de 10% de chance de tal evento ocorrer na próxima década.

Por trás desses alertas, existe uma crença crescente de que a RSI (Lesão por Esforço Repetitivo) está finalmente ao nosso alcance, com alguns executivos de IA estimando que isso ocorrerá em três a cinco anos.

Em um ensaio publicado no fim de semana , Amodei alertou que o aperfeiçoamento recursivo poderia eventualmente ultrapassar a capacidade da humanidade de compreender e controlar os sistemas de IA, caso seja buscado sem salvaguardas suficientes.

Como chegamos aqui? Durante décadas, a IA permaneceu muito limitada para que a ideia de LER (Lesão por Esforço Repetitivo) fosse levada a sério.