IA extinguirá humanos? Risco supera 10% na próxima década, diz especialista

O seu produto pode acarretar a extinção da humanidade? Uma resposta afirmativa, em grande parte dos cenários, derrubaria o valor de qualquer empresa. No caso das empresas norte-americanas que desenvolvem os modelos de IA mais avançados, a história parece ser diferente.

Segundo ele, nenhuma das duas companhias agiria de forma responsável, e as pessoas que constroem essa tecnologia acreditam sinceramente que ela pode matar todos nós em uma década. A denúncia também apontou que executivos e pesquisadores seniores mediriam as palavras em público, enquanto expressam receio sobre o futuro em conversas privadas.

Evan Hubinger, que lidera a equipe de Alignment Science da Anthropic, escreveu nas redes sociais que sua estimativa pessoal para a probabilidade de a IA matar todos os seres humanos na próxima década é superior a 10% (dez por cento).

Dez por cento não é uma probabilidade calculada, nem mesmo a previsão oficial da empresa, mas a simples noção de que estamos fazendo as contas sobre a chance de IAs se voltarem contra nós deixou o mundo de cabelo em pé. E tudo isso veio à tona a poucas semanas da Anthropic avançar no processo de abertura de capital na bolsa de valores.

Esse é o pano de fundo que transforma um debate técnico em evento de mercado. A Anthropic protocolou seu relatório S-1 confidencial junto às autoridades em 1º de junho, mirando uma listagem na Nasdaq entre outubro e novembro, em patamares que orbitam o trilhão de dólares. Seria, potencialmente, uma das maiores aberturas de capital da história.

A seção de fatores de risco de qualquer prospecto é, por definição, o lugar onde se enumera tudo o que pode dar errado. Não sei se existe por aí algum advogado especializado em redigir uma cláusula de extinção da espécie humana como risco material que deve ser informado ao investidor.

Na quinta-feira passada (10), a empresa publicou um relatório de inteligência chamado "Identificando e reagindo ao uso indevido da IA". São cento e cinquenta e quatro páginas descrevendo operações maliciosas identificadas e interrompidas pela Anthropic entre dezembro de 2025 e agosto de 2026. O timing não poderia ser melhor: se na terça a mensagem foi "a IA pode nos matar", na quinta a mensagem passou a ser "sabemos exatamente quem está tentando usar a IA de forma danosa e onde".

No relatório tem de tudo. Tem agente de espionagem russo, compatível com o grupo conhecido como Midnight Blizzard, que automatizou o ciclo completo de ataque e chegou a usar agentes de IA para monitorar se o próprio malware havia sido detectado por antivírus, reescrevendo-o autonomamente até voltar a passar despercebido.