Destruição artificial

A cultura contemporânea tem uma espécie de obsessão com a ideia catastrofista de um “fim do mundo” ou um “fim dos tempos”, vertida no fascínio pela noção de destruição (às vezes apodada de ‘criativa’) e, no limite, de um possível Apocalipse.

Tornou-se famosa a expressão do capítulo inicial de Capitalist Realism de Mark Fisher – que por sua vez parafraseia uma formulação de Fredric Jameson –, segundo a qual “é mais fácil imaginar o fim do mundo do que o fim do capitalismo”.

O diagnóstico é duplo.

Se, por um lado, se critica o défice de imaginação da possibilidade de formas alternativas de organização económica, por outro não se evita a constatação da omnipresença das profecias da desgraça.

Tal “razão apocalíptica” tem merecido críticas, sendo de salientar as de Michaël Fœssel.

Para Fœssel, em Après la fin du monde , as teorias da catástrofe abandonam a preocupação com o tipo de mundo que queremos defender, ao concentrarem-se exclusivamente na lógica da preservação da vida no modo da urgência.

Como nota o autor, seguindo Günther Anders, a predominância deste tema na nossa cultura tem certamente raízes religiosas mas, após o advento da ameaça nuclear a partir de 1945 e, acrescente-se, a possibilidade de um “inverno nuclear” durante a fase da corrida ao armamento na guerra fria, tem sido sobretudo associada à técnica.

O que se compreende: a partir do momento em que a destruição do mundo é tecnicamente possível, torna-se difícil não elocubrar sobre a probabilidade de vir a acontecer, ainda que de forma não intencional ou por mero desvario; e é impossível não nos lembrarmos, a este propósito, de Dr.

Strangelove, filme realizado por Stanley Kubrick.

Hoje, a probabilidade da catástrofe é, por razões que se entendem, sobretudo associada ao poder e capacidade de disrupção da inteligência artificial (IA).

A hipótese não é nova.

Ao discutir a possibilidade de uma “ superinteligência ” Nick Bostrom já propusera a experiência de pensamento de uma IA poderosa o suficiente para interagir com o mundo físico e objetivos não alinhados com os humanos poder simplesmente eliminar-nos da face da Terra sem intencionalidade específica.

Na hipótese do “maximizador de clipes de papel” se uma superinteligência artificial tiver como objetivo estrito algo como a produção de clipes de papel, não se pode descartar que recolha todos os recursos ao seu dispor para o fazer, transformando a Terra numa eventual fábrica de clipes em larga escala e/ou eliminando qualquer ameaça aos seus objetivos (incluindo a presença de humanos).

O exemplo soará absurdo.