O que Musk, Zuckerberg, Altman e outras lideranças pensam sobre os riscos da IA

(Bloomberg) – O debate sobre até onde e com que rapidez a inteligência artificial está avançando impõe um sério dilema para os executivos de tecnologia.

Eles estão ansiosos para manifestar suas preocupações sobre os perigos potenciais da tecnologia e ofereceram diversos remédios, incluindo desacelerar seu desenvolvimento.

Mas, tendo investido centenas de bilhões de dólares em IA, eles tentam acalmar as pessoas sem assustar investidores e clientes.

As discussões públicas se intensificaram na semana passada, depois que o pesquisador da Anthropic PBC, Jacob Coxon, pediu demissão e alertou que os pesquisadores que constroem IA “acreditam sinceramente que ela pode matar todos nós até o fim da década”.

Suas preocupações foram ecoadas publicamente por outros funcionários da Anthropic, incluindo o líder de ciência de alinhamento Evan Hubinger, que disse acreditar que há mais de 10% de chance de a tecnologia causar a extinção humana na próxima década.

O presidente Donald Trump opinou, rejeitando a necessidade de salvaguardas para a IA e criticando o CEO da Anthropic, Dario Amodei, que argumentou em uma postagem no blog no sábado que as capacidades da IA estão avançando mais rápido do que as salvaguardas conseguem acompanhar.

Amodei propôs maior supervisão independente e coordenação entre empresas e governos.

Em uma postagem no Truth Social na segunda-feira, Trump culpou uma “conspiração DOENTIA” pela rejeição dos eleitores aos data centers de IA e pelo aumento da preocupação com os modelos de fronteira, acrescentando que “o único que está feliz com isso é a China”.

Leia também: Trump, sobre desaceleração em IA: ‘Não matem a galinha dos ovos de ouro!’ Hora de frear? No mesmo palco, CEOs de Anthropic e Nvidia divergem sobre futuro da IA O CEO da Nvidia Corp. ( NVDC34 ), Jensen Huang, descartou qualquer necessidade de novas regulamentações em um evento na terça-feira, enquanto o fundador da Meta Platforms Inc. ( M1TA34 ), Mark Zuckerberg, apoiou a ideia de avaliadores independentes, em vez de uma desaceleração deliberada para manter a IA segura.

Dentro da sede da Anthropic enquanto testa uma versão diferente de liderança, Dario Amodei. (Foto: Jason Henry/Bloomberg) Aqui está o que os executivos mais proeminentes do setor estão dizendo sobre para onde a inteligência artificial deve ir a partir daqui: Elon Musk, SpaceX/xAI “Dario está certo”, escreveu ele em uma postagem no X.

Leia também: Mark Zuckerberg critica apelos para desacelerar desenvolvimento da IA Sam Altman, OpenAI “Concordo com Dario que precisamos controlar o ritmo da fronteira.

Este tem sido um tópico central das discussões que tivemos na OpenAI nas últimas semanas.

Comprometer-se a ter avaliadores independentes com acesso semelhante ao de funcionários é uma ótima ideia, e faremos o mesmo.