Ataques, vírus e armas. Como poderá a IA ameaçar os humanos?

É a questão que está na cabeça do mundo desde que Jacob Coxon, um ex-investigador da Anthropic e da OpenAI, deu um novo impulso ao debate sobre os riscos da inteligência artificial (IA). “A IA poderá matar-nos a todos até ao fim da década ”, alertou, acusando as empresas do setor de não estarem a “agir de forma responsável”.

Em muitas das entrevistas que deu, o britânico admitiu que os alertas sobre risco existencial parecem saídos dos livros e filmes de ficção científica. Afinal, o risco de haver uma IA capaz de dominar os humanos vive no imaginário de Hollywood há décadas: seja com o HAL 9000 de 2001 — Odisseia no Espaço até ao Exterminador Implacável . Ou, fora da cultura pop, na teoria do filósofo Nick Bostrom sobre uma superinteligência que produz clipes de papel. Nessa perspetiva, a humanidade seria eliminada porque todos os recursos seriam alocados à maximização da produção de clipes.

Empresas de IA “estão a arriscar as nossas vidas”. Dez perguntas sobre o alerta que pôs um prazo na humanidade

Os avisos não são propriamente novos — e, em vários casos, fogem do guião de Exterminador Implacável . Mas os alertas ganharam outro relevo depois de empresas de IA admitirem casos em que os seus agentes fugiram às instruções e atacaram outras organizações . Ou, noutra vertente, como a Anthropic detetou e travou situações em que o modelo Claude estaria a ser testado para investigar o desenvolvimento de uma arma biológica.

“Sê transparente apenas se te pedirem”. OpenAI teve mais incidentes com agentes e adotou regras para divulgar mau comportamento da IA

“Neste momento não há risco de extinção”, disse Jacob Coxon à CNN Internacional. “Os modelos atuais, o pior que conseguem fazer é, talvez, entrar em algum sistema, causar danos em infraestruturas, mas não são inteligentes o suficiente para nos ultrapassarem a um nível que possa levar à nossa extinção.”

“Padrinho” da Inteligência Artificial deixa alerta: “É difícil ver como se evitará que maus agentes usem esta tecnologia para coisas más”

O risco de extinção, destacam especialistas como Nate Soares, autor do livro If Anyone Builds It, Everyone Dies (Se qualquer pessoa o criar, toda a gente morre, em tradução livre), poderá surgir a partir do momento em que se desenvolva uma superinteligência — ou seja, uma IA mais inteligente do que os humanos.

Nesse campo, a grande questão é o “como”: de que forma é que uma superinteligência poderia ameaçar a humanidade? Mesmo que ninguém tenha uma bola de cristal para uma teoria que está longe de ser consensual , há quem tente traçar cenários, mesmo que a etapa que explica como se chega a esse ponto possa ficar pelo caminho.

Vice da Palantir critica “avisos apocalípticos” sobre a IA. É uma “tentativa de golpe” de grupo “com ideologia perigosa”

Neste momento, os avisos dos investigadores sobre os riscos de extinção trazidos pela superinteligência dividem-se em duas grandes categorias: a perda de controlo e um mau uso pelos humanos . No primeiro caso, poderia dar-se o risco de uma superinteligência desenvolver objetivos próprios, ameaçando os humanos.