IPO da Anthropic gera dilema: como precificar os riscos de uma IA fora de controle?

Investidores que analisam a planejada mega oferta pública inicial (IPO) da Anthropic enfrentam um dilema incomum: como avaliar uma empresa que, segundo alguns especialistas, poderia ajudar a provocar a extinção da humanidade.

Pesquisadores que publicaram no X estimativas de 10% ou mais de probabilidade de a inteligência artificial provocar o fim da espécie humana desencadearam um debate do qual participou Dario Amodei , cofundador e CEO da Anthropic.

Em um ensaio recente, Amodei expôs preocupações de que os seres humanos possam perder o controle sobre sistemas avançados de IA.

Ele também alertou para o uso dessas ferramentas em ataques cibernéticos, bioterrorismo e grandes disrupções econômicas caso os pesquisadores não reduzam o ritmo de desenvolvimento da tecnologia.

Embora muitos considerem absurda a ideia de responsabilizar uma empresa pela extinção da humanidade ou mesmo quantificar esse risco em documentos de IPO, os perigos potenciais enfrentados pela Anthropic e pela OpenAI têm sido comparados aos de empresas que lidam com materiais perigosos ou equipamentos militares.

Segundo Sam Lessin , sócio da Slow Ventures, um precedente para lidar com esses riscos pode ser encontrado nas medidas adotadas após a crise financeira de 2008.

O investidor defende que os laboratórios de IA sejam obrigados a reservar até US$ 1 trilhão como garantia para cobrir eventuais danos futuros, semelhante às exigências impostas aos bancos após a crise.

Mesmo assim, ele acredita que o valor poderia não ser suficiente.

“As responsabilidades podem representar um risco de US$ 2 trilhões ou US$ 4 trilhões para a sociedade, mesmo antes de considerar os cenários de extinção em massa de que eles próprios falam, o que tornaria essas empresas, no conjunto, valendo menos que zero”, afirmou Lessin à Bloomberg.

Ainda assim, alguns investidores podem estar dispostos a comprar ações da Anthropic assumindo que eventuais custos futuros acabariam sendo absorvidos por terceiros.

A empresa se recusou a comentar.

Debate apocalíptico Os planos da Anthropic de levantar tanto ou mais recursos em seu IPO do que a SpaceX arrecadou em sua estreia histórica ocorreram justamente quando o debate sobre segurança da inteligência artificial passou a incluir cenários extremos.

Apesar disso, o tema não parece ter prejudicado o desempenho da SpaceX no mercado.

A empresa de Elon Musk também aposta fortemente em IA e desenvolve o modelo Grok, concorrente direto dos sistemas da Anthropic e da OpenAI.