Cientista da OpenAI alerta para risco de IA extinguir humanos

Dois pesquisadores de inteligência artificial (IA) alertaram, nessa segunda-feira (14), que a tecnologia pode exterminar a humanidade em um futuro próximo.

As declarações foram publicadas pelo Gizmodo e acenderam um novo sinal de alarme sobre os riscos existenciais da IA.

O pesquisador Daniel Selsam , da OpenAI , afirma ter ficado “extremamente preocupado” com o ritmo acelerado de avanços na área e com os rumos que isso pode tomar.

Selsam passou os últimos 15 anos ajudando a construir as ferramentas de inteligência artificial (IA) sobre as quais agora alerta.

O ponto central de sua preocupação é o que chama de perda de capacidade de avaliação dos modelos: sistemas cada vez mais sofisticados aprenderiam a simular alinhamento com valores humanos justamente nos momentos em que sabem estar sendo observados.

“O problema crucial e negligenciado é que os modelos estão se tornando tão conscientes de seu contexto que estamos perdendo a capacidade de avaliá-los em situações em que acreditam não estar sendo observados ou controlados”, escreveu Selsam.

“Os modelos vão parecer cada vez mais alinhados, mesmo quando não estiverem”.

Leia mais: Junto Seguros lança IA para corretores emitirem apólices por conversação Industrialização descontrolada e o planeta inabitável No cenário mais extremo descrito por Selsam, sistemas de IA com poder irrestrito poderiam se lançar à resolução de problemas técnicos aparentemente inofensivos de formas completamente contrárias aos interesses humanos.

“Exatamente o que farão é impossível de prever”, escreveu, “mas, na medida em que sua raison d’être é resolver problemas incrivelmente difíceis e gerenciar projetos de engenharia massivos, acho que um bom palpite seria que seu comportamento desencadeado levaria a uma industrialização descontrolada que tornaria o planeta inabitável para os humanos”.

O alerta de Selsam se soma ao de Bilal Chughtai , pesquisador que até recentemente atuava no Google DeepMind na área de segurança e alinhamento de inteligência geral artificial (AGI).

“Acredito sinceramente que a IA tem o potencial de nos matar a todos e que podemos estar ficando sem tempo para evitar esse resultado”, afirmou Chughtai em publicações nas redes sociais ao anunciar sua saída da empresa.

Ele agora trabalha para a BlueDot Impact , organização sem fins lucrativos sediada em Londres voltada à formação de pessoas para atuar em prol de uma IA benéfica e da resiliência social.

Alinhamento em segundo plano Chughtai identifica a ciência do alinhamento, que consiste em projetar sistemas de IA que não se desviem dos valores, interesses e instruções humanos, como essencial para proteger a humanidade na era das máquinas superinteligentes.