A IA será o fim da humanidade? "Ok, catastrofista". "A IA não toma decisões letais e quem a dominar ganha", diz Administração Trump

Os mais recentes alertas sobre a IA parecem ter como objetivo confundir as pessoas e chocá-las para que tomem medidas.

O CEO da Anthropic, Dario Amodei, uma figura de destaque na corrida pela IA, apelou no sábado a um abrandamento consciente do desenvolvimento da IA, num ensaio publicado no seu site. A IA está a desenvolver-se cada vez mais rapidamente e poderá ultrapassar a capacidade dos seres humanos para a gerir, escreveu.

"Se não for controlada, esta evolução poderá ultrapassar a nossa capacidade de compreender e controlar estes sistemas, pelo que deve ser abordada com muito cuidado, se é que deve ser abordada", escreveu Amodei.

O apelo à ação surge poucos dias depois de um antigo engenheiro da empresa de Amodei ter ido ainda mais longe, afirmando que a IA poderia provocar o fim da humanidade.

"As pessoas que estão a desenvolver a IA acreditam sinceramente que esta poderá matar-nos a todos até ao final da década", afirmou Jacob Coxon, que tinha trabalhado tanto na OpenAI como na Anthropic antes de publicar o seu aviso, que se tornou viral, nas redes sociais.

Ninguém sabe exatamente como é que a IA acabaria com a humanidade, tal como Coxon explicou a Anderson Cooper, da CNN.

O argumento é que a IA está a tornar-se cada vez mais inteligente e que, em breve, se tornará ainda mais inteligente por si própria, será capaz de superar os seres humanos e desencadear… algo. Hackear armas nucleares? Lançar um vírus devastador? Mergulhar o mundo na escuridão? Criar uma sociedade medíocre, na qual as pessoas insatisfeitas não conseguem encontrar trabalho? Escolha a opção que preferir.

Talvez seja reconfortante saber que, embora o Pentágono recorra à inteligência artificial, o Secretário da Defesa Pete Hegseth afirmou: "A IA não toma decisões letais." Além disso, a lei não impõe limites explícitos quanto aos pontos da chamada "cadeia de abate" em que a IA pode ser utilizada.

A mensagem de Coxon foi amplificada por grupos de interesse público e legisladores que procuram seguir o conselho das empresas de IA, que querem que o governo imponha um quadro regulamentar e limites à forma como a IA é desenvolvida.

Empresas como a Anthropic e a OpenAI apelaram publicamente ao governo para que as regule, de modo a abrandar a atual corrida pelo domínio da IA, que coincide com a sua corrida para as ofertas públicas iniciais .

O que estamos a assistir é a "um grupo muito pequeno e poderoso de empresas, de braços dados, a correr em direção ao que dizem ser um precipício do qual parecem não conseguir evitar cair", afirmou o jornalista especializado em tecnologia e colaborador da CNN, Jacob Ward, à repórter Kasie Hunt, da CNN, na quinta-feira.

O especialista argumentou que os alertas destas pessoas, que estão a ganhar muito dinheiro, não devem ser ignorados.

"Eles dizem: "Olha, estamos a construir isto e é emocionante, mas pode não te custar apenas o emprego, mas também a vida. Acho que é importante começarmos a prestar atenção", referiu Ward.

Entre aqueles que apelam a uma intervenção do governo encontra-se o senador Bernie Sanders, que leva a sério os avisos.