Profissionais de IA estão 'genuinamente assustados' com futuro da humanidade, diz pesquisador que se demitiu da Anthropic

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

As pessoas que trabalham na área de tecnologia estão "genuinamente assustadas" com a velocidade dos avanços da inteligência artificial e o que ela pode significar para o futuro da humanidade, disse um pesquisador que pediu demissão da Anthropic , empresa líder em inteligência artificial e criadora do Claude.

"Acredito que, se não diminuirmos o ritmo atual de progresso , há uma grande chance de todos morrermos em um futuro próximo", afirmou Jacob Coxon, em entrevista à BBC.

A postagem viralizou em meio às crescentes preocupações da indústria com a segurança da IA.

O ex-chefe de Coxon, Dario Amodei, diretor da Anthropic, pediu recentemente, em um ensaio, pediu que o ritmo de desenvolvimento de modelos de inteligência artificial seja desacelerado e monitorado de perto .

Os chefes de duas empresas rivais de IA, Sam Altman da OpenAI e Elon Musk da xAI, disseram concordar com a proposta de Amodei de desaceleração e regulamentação em toda a indústria, bem como de monitoramento independente do desenvolvimento de modelos de IA.

Amodei afirmou no ensaio publicado no sábado (12) que o desenvolvimento da tecnologia não estava em questão, mas que os riscos associados a ela eram "sérios" e que empresas e governos precisavam de tempo para lidar com eles.

Coxon acolheu a sugestão de uma desaceleração, mas afirmou que esta precisaria ser coordenada com a China para evitar "uma corrida em escala internacional" .

"As pessoas que trabalham nessas empresas falam muito sério quando pedem regulamentação, porque se sentem presas em uma corrida. E têm medo das consequências dessa corrida", disse ele ao programa Sunday with Laura Kuenssberg, da BBC.

De acordo com Coxon, a pergunta mais difícil de responder atualmente é como seria um apocalipse criado pela IA.

Um dos riscos destacados por Amodei em seu ensaio foi o de um enxame de bots agindo como um supercomputador que poderia dominar a internet .

Coxon afirmou que esse cenário poderia se tornar realista dentro de seis meses a um ano .

Em resposta à saída de Coxon, um porta-voz da Anthropic disse à BBC News: "Sempre fomos transparentes quanto ao fato de que a IA trará tanto enormes benefícios quanto riscos sem precedentes."

"Para lidar com esses riscos, continuamos a desenvolver modelos com algumas das salvaguardas mais robustas do setor."