A IA vai mesmo matar toda a gente? Como exatamente?

A inteligência artificial (IA) pode vir a matar toda a espécie humana, segundo profissionais da indústria. Mais concretamente, dizem que poderá exterminar a humanidade dentro de uma década.

Políticos, grandes organizações de comunicação social e Sheryl Crow reagiram com alarme na semana passada, depois de um funcionário da Anthropic chamado Jacob Coxon ter anunciado que estava a abandonar a empresa de IA porque o seu trabalho era demasiado perigoso. Evan Hubinger, outro funcionário da Anthropic, interveio para afirmar que a probabilidade de a IA provocar a extinção humana nos próximos dez anos é superior a 10%.

“É mesmo uma questão de literalmente toda a gente no mundo morrer, como o último ser humano a dar o último suspiro”, disse Nate Soares, presidente do Machine Intelligence Research Institute (MIRI) e coautor de “If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All”.

“As pessoas muitas vezes não acreditam quando ouvem isto, mas eu penso que esse é, de facto, o resultado mais provável”, afirmou Soares.

Os números associados a essa conclusão pareciam exatos. Mas como, exatamente, é que um software informático podia matar 8,3 mil milhões de pessoas de carne e osso numa década?

Nem toda a comunidade da IA subscreve a narrativa do fim do mundo, em parte porque os pormenores da previsão são bastante escassos. Quando Elon Musk diz que a SpaceX pretende levar pessoas a Marte dentro de “cinco a sete anos”, há perguntas claras que se seguem: a SpaceX tem um veículo funcional que poderia ir até Marte? (Não.) Tem um módulo de aterragem em Marte ou bases em Marte? (Não.)

“As afirmações científicas têm de ser falsificáveis, precisamente para se distinguirem da natureza dos argumentos religiosos”, disse Heidy Khlaaf, cientista-chefe de IA do AI Now Institute e antiga engenheira de segurança da OpenAI. “É preciso ser possível provar ou refutar essas afirmações”, sublinhou.

Uma das linhas de especulação entre os que preveem o fim do mundo é que um sistema de IA suficientemente poderoso poderia utilizar armas biológicas para eliminar a humanidade. Mas como é que a IA passaria de atos ilícitos entre computadores, como piratear outros sistemas, para a tarefa, no mundo físico, de criar e disseminar um agente patogénico superletal?

Thomas Larsen, investigador do AI Futures Project e antigo funcionário do MIRI, afirmou que é concebível que um sistema de IA “superinteligente” pudesse convencer um ser humano a ajudá-lo a desenvolver um vírus mortal.

“Já há muitos seres humanos a conversar com as suas IA’s sobre que tipo de experiências deviam realizar num laboratório”, disse Larsen, referindo-se a um relatório recente da Anthropic sobre investigadores que utilizam o Claude para os ajudar em investigação relacionada com vírus e toxinas.