O que levou funcionários da Anthropic a acusar empresa de buscar o ‘fim da humanidade’

Na última terça-feira, 8, o ex-funcionário da empresa de inteligência artificial Anthropic, responsável pelo Claude, Jacob Coxon, publicou uma thread em seu X (antigo Twitter), em que acusa a empresa de acreditar que a IA pode “matar a todos até o fim da década” e ignorar riscos iminentes no desenvolvimento de suas inteligências “super poderosas”.

Após o anúncio, uma série de usuários nas redes acusaram Coxon de fazer parte de um truque para impedir o avanço da tecnologia.

Ao mesmo tempo, outros funcionários da Anthropic vieram a público e concordaram com suas falas.

Jacob Coxon é um ex-funcionário da Anthropic e da OpenAI, que trabalhou na área de pesquisa em tecnologia.

Segundo seus próprios posts nas redes sociais, ele se demitiu na última terça-feira de seu cargo na Anthropic por discordar do caminho escolhido pela empresa para o desenvolvimento de suas inteligências artificiais.

Em sua sequência de publicações (a thread ), ele acusa as duas empresas de não serem responsáveis, e de estarem em uma “corrida em linha reta até uma super inteligência artificial que pode melhorar a si mesma, e apostar com nossas vidas”.

As postagens Continua após a publicidade Na sequência de sete postagens encadeadas, ele continua com as reclamações e classifica os sistemas de IA atuais — que já geram polêmicas frequentes, como o caso Hugging Face e as revelações recentes da Anthropic — como um grupo de agentes que “logo serão sistemas super humanos que poderão hackear qualquer coisa, revolucionar qualquer área em uma noite, e adquirir poder e recursos reais”.

O delator afirma ainda que os funcionários e engenheiros responsáveis pela produção das IAs têm plena consciência do perigo, e que eles “acreditam fielmente que [a IA] pode nos matar até o fim da década”.

De acordo com Coxon, executivos e pesquisadores podem diminuir a preocupação em público, mas “expressam medo em segredo”.

Continua após a publicidade Outros funcionários Após a viralização das postagens, alguns outros funcionários da Anthropic reagiram aos comentários de Coxon confirmando suas acusações.

Evan Hubinger, diretor de alinhamento científico na criadora do Claude, respondeu à publicação de Coxon com uma afirmação.

“Jacob está correto — nós realmente e sinceramente acreditamos que a IA pode matar todos os humanos! Eu pessoalmente acredito que [as chances] são mais de 10% durante a próxima década”, revelou.

“Eu acredito que a Anthropic está fazendo o melhor que pode, mas nós não temos um plano para alinhar a superinteligência e claramente não estamos no caminho para isso”, finalizou.

Continua após a publicidade A publicação de Hubinger foi feita às 22h27 da terça-feira, próximo do horário em que Coxon fez sua sequência de postagens, perto das 21h.