Profissionais de IA estão 'genuinamente assustados' com futuro da humanidade, diz pesquisador que se demitiu da Anthropic

As pessoas que trabalham na área de tecnologia estão "genuinamente assustadas" com a velocidade dos avanços da inteligência artificial e o que ela pode significar para o futuro da humanidade , disse um pesquisador que pediu demissão da Anthropic, empresa líder em inteligência artificial e criadora do Claude.

"Acredito que, se não diminuirmos o ritmo atual de progresso, há uma grande chance de todos morrermos em um futuro próximo", afirmou Jacob Coxon, em entrevista à BBC.

A postagem viralizou em meio às crescentes preocupações da indústria com a segurança da IA.

O ex-chefe de Coxon, Dario Amodei, diretor da Anthropic, pediu recentemente, em um ensaio, pediu que o ritmo de desenvolvimento de modelos de inteligência artificial seja desacelerado e monitorado de perto.

Os chefes de duas empresas rivais de IA, Sam Altman da OpenAI e Elon Musk da xAI, disseram concordar com a proposta de Amodei de desaceleração e regulamentação em toda a indústria, bem como de monitoramento independente do desenvolvimento de modelos de IA.

Amodei afirmou no ensaio publicado no sábado (12/09) que o desenvolvimento da tecnologia não estava em questão, mas que os riscos associados a ela eram "sérios" e que empresas e governos precisavam de tempo para lidar com eles.

Coxon acolheu a sugestão de uma desaceleração, mas afirmou que esta precisaria ser coordenada com a China para evitar "uma corrida em escala internacional".

"As pessoas que trabalham nessas empresas falam muito sério quando pedem regulamentação, porque se sentem presas em uma corrida. E têm medo das consequências dessa corrida", disse ele ao programa Sunday with Laura Kuenssberg , da BBC.

De acordo com Coxon, a pergunta mais difícil de responder atualmente é como seria um apocalipse criado pela IA.

Um dos riscos destacados por Amodei em seu ensaio foi o de um enxame de bots agindo como um supercomputador que poderia dominar a internet.

Coxon afirmou que esse cenário poderia se tornar realista dentro de seis meses a um ano.

Em resposta à saída de Coxon, um porta-voz da Anthropic disse à BBC News: "Sempre fomos transparentes quanto ao fato de que a IA trará tanto enormes benefícios quanto riscos sem precedentes."

"Para lidar com esses riscos, continuamos a desenvolver modelos com algumas das salvaguardas mais robustas do setor."

A empresa tem sido pioneira no estudo do funcionamento dos modelos de IA, acrescentou o porta-voz. Foi a primeira a publicar uma estrutura para mitigar os riscos decorrentes do seu desenvolvimento — e também testa os seus modelos de forma "agressiva" e publica as conclusões para facilitar a análise e prevenir incidentes de "desalinhamento da IA".