Por que alguns chefões do Vale do Silício rejeitam previsão de que IA pode extinguir a humanidade

Todos os anos, em setembro, a nata de executivos do Vale do Silício se reúne no Palace Hotel de San Francisco para atrair investidores durante uma conferência organizada pelo banco de investimentos Goldman Sachs.

Na última semana, o mundo da inteligência artificial repercutiu as declarações do pesquisador Jacob Coxon após pedir demissão da empresa Anthropic.

O britânico de 27 anos, que trabalhou na OpenAI antes de se juntar à sua principal concorrente, disse na terça-feira (08/09) que as pessoas que trabalham no desenvolvimento da IA sabem da possibilidade de destruição da humanidade.

Eles estão "jogando com as nossas vidas", disse Coxon. "Em breve teremos sistemas sobrehumanos capazes de hackear qualquer coisa".

Coxon não é o primeiro especialista em IA a fazer alertas públicos do tipo. Nos últimos anos, funcionários de alto nível tanto da Anthropic quanto da OpenAI pediram demissão devido a preocupações com a segurança dos sistemas.

Alguns funcionários que continuam na Anthropic chegaram a fazer coro às palavras de Coxon.

"Acreditamos sinceramente que a IA pode exterminar todos os humanos! Pessoalmente, acho que essa possibilidade ultrapassará 10% na próxima década", publicou no X Evan Hubinger, pesquisador de segurança na Anthropic.

Embora Coxon tenha feito questão de dizer em suas postagens que os alertas "não eram marketing", alguns executivos e investidores do Vale do Silício reagiram com ceticismo.

A Anthropic e a OpenAI estão se preparando para abertura de capital na bolsa que poderá bater recordes, e alguns no Vale do Silício sugerem que os recentes comentários sobre os perigos da IA podem ter sido planejados para sinalizar o poder desses produtos.

O chefe da Anthropic, Dario Amodei, foi alvo de críticas por afirmar que a tecnologia de IA poderia eliminar metade dos empregos de nível básico em escritórios e "testará quem somos como espécie".

Ele também pediu em um artigo publicado neste sábado (12/09) que o ritmo de desenvolvimento de modelos de inteligência artificial seja desacelerado e monitorado de perto.

Um dos palestrantes da conferência em San Francisco, o CEO do Grindr, George Arison, disse à BBC que os comentários de Coxon e de outros indicavam uma "visão de mundo anticivilização na Anthropic".

Ele os chamou de "perigosos" e disse que eles o levaram a instruir alguns engenheiros do aplicativo de encontros LGBTQ+ a pararem de usar a tecnologia da Anthropic.

"É irresponsável da nossa parte, como administradores do dinheiro dos nossos acionistas, confiar em uma empresa que faz o que esta empresa faz, em termos de suas declarações públicas", disse ele.