Como a Inteligência Artificial poderia matar todo mundo exatamente. Trata-se realmente de todos no planeta morrerem

Segundo especialistas da área, a Inteligência Artificial pode exterminar toda a espécie humana .

Mais especificamente, afirmam que ela pode levar ao extermínio da humanidade em menos de uma década.

Na semana passada, políticos, grandes veículos de comunicação e Sheryl Crow reagiram com alarme após Jacob Coxon, funcionário da Anthropic, anunciar sua saída da empresa de inteligência artificial por considerá-la muito perigosa .

Evan Hubinger, outro funcionário da Anthropic, também se manifestou, estimando em mais de 10% a probabilidade de extinção da humanidade por meio de inteligência artificial em 10 anos.

“ Trata-se realmente de todos no planeta morrerem , como o último ser humano dando seu último suspiro”, disse Nate Soares, presidente do Instituto de Pesquisa de Inteligência de Máquina (MIRI) e coautor de “ Se alguém construir, todos morrem: por que a IA super-humana nos mataria a todos ”.

Leia Mais Os recados do "padrinho da IA" sobre o futuro da tecnologia Corrida por IA aumenta cautela entre investidores CEO da Anthropic defende desaceleração de IA para garantir segurança “ As pessoas geralmente não acreditam quando dizem isso, mas eu acho que esse é o resultado mais provável ”, disse Soares.

Os números associados a esse resultado pareciam precisos.

Mas como, exatamente, um software de computador, mesmo os sistemas de software mais poderosos do mundo, mataria 8,3 bilhões de pessoas de carne e osso em uma década? Nem todos na comunidade de IA acreditam na história apocalíptica, em parte porque os detalhes da previsão são muito escassos.

Quando Elon Musk diz que a SpaceX pretende levar pessoas a Marte em ” 5 a 7 anos” , surgem perguntas óbvias: A SpaceX tem um veículo funcional que possa ir a Marte? (Não.) Ela tem um módulo de pouso ou bases em Marte? (Não.) “As afirmações científicas exigem falseabilidade precisamente para evitar a natureza dos argumentos religiosos”, disse Heidy Khlaaf, cientista-chefe de IA do AI Now Institute e ex-engenheira de segurança da OpenAI.

“É preciso ser capaz de prová-las ou refutá-las.” Inteligência Artificial utilizada em robôs • Gabriele Malaspina/Unsplash Exterminados por uma praga sintética? Uma das linhas de especulação entre os pessimistas é que um sistema de IA suficientemente poderoso poderia usar armas biológicas para exterminar a humanidade.

Mas como a IA evoluiria de ações maliciosas entre computadores, como invadir outros sistemas, para a tarefa no mundo físico de criar e disseminar um superpatógeno? Thomas Larsen, pesquisador do AI Futures Project e ex-funcionário do MIRI, afirmou que é concebível que um sistema de IA “superinteligente” possa convencer um humano a ajudá-lo a desenvolver um vírus mortal.