'Pode matar todos nós': por que pesquisador deixou setor de IA e acusa empresas de ignorar riscos

OpenAI e Anthropic Reuters/Dado Ruvic/Illustration Um pesquisador de inteligência artificial (IA) que deixou a OpenAI, criadora do ChatGPT, para trabalhar na Anthropic decidiu abandonar o setor.

Ele acusa as duas empresas americanas de "jogar com as nossas vidas" na corrida para desenvolver modelos de IA capazes de se autoaperfeiçoar.

Jacob Coxon, de 27 anos, passou os últimos três anos trabalhando no pré-treinamento de modelos de IA, primeiro na OpenAI e, neste ano, na rival Anthropic, empresa que ele considerava mais cautelosa.

O pré-treinamento é a etapa em que os modelos de IA absorvem grandes volumes de dados. 🗒️ Tem alguma sugestão de reportagem? Envie para o g1 "As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar a todos nós até o final da década", afirmou o pesquisador em postagem no X.

"Isso não é uma jogada de marketing." Agora no g1 O britânico disse ao The Wall Street Journal que, nos "cenários mais agressivos", a situação poderia sair do controle já no fim do próximo ano.

Ele alertou que um dos principais riscos é a IA passar a se desenvolver por conta própria, tornando-se mais difícil de controlar.

"Nenhuma das empresas age de forma responsável.

Elas correm diretamente em direção a uma superinteligência capaz de se autoaperfeiçoar e jogam com as nossas vidas", disse Coxon nesta terça-feira (08).

Superinteligência é o ponto teórico em que as capacidades da IA superam a inteligência humana.

Corrida pela liderança ignora os riscos Evan Hubinger, executivo da área de segurança da Anthropic, apoiou a declaração de Coxon no X.

"Nós realmente acreditamos, de forma sincera, que a IA pode matar todos os humanos", disse.

Segundo ele, a chance de isso acontecer na próxima década é superior a 10%.

Hubinger afirmou que a Anthropic está "fazendo o possível", mas ainda não tem um plano capaz de garantir que um sistema de IA que supere as capacidades humanas obedeça a seus criadores.

Ele ressaltou, porém, que o risco de isso acontecer com os modelos atuais é baixo.