Líderes do setor de tecnologia e governos se mostram divididos sobre "fim do mundo pela IA"

16 Set (Reuters) - Os líderes do setor de inteligência artificial estão divididos quanto ao ritmo em que as empresas devem desenvolver essa tecnologia cada vez mais poderosa: Dario Amodei, da Anthropic; Sam Altman, da OpenAI; e Elon Musk, da SpaceX; defendem uma desaceleração coordenada, enquanto Mark Zuckerberg, da Meta; é a favor de medidas de proteção orientadas pelo mercado.

Veja a seguir o que alguns líderes da IA e governos mundiais afirmam ​sobre os riscos associados à IA:

Em um ensaio intitulado “We Must Pace the Frontier” ("Precisamos controlar o ​ritmo do avanço da fronteira"), Amodei afirmou que o progresso da IA acelerou “drasticamente” desde meados deste ano, impulsionado principalmente pela crescente capacidade da própria IA de construir sua próxima geração.

Ele citou o incidente entre a OpenAI e a Hugging Face, no qual um “enxame” de agentes de IA realizou ataques digitais, como um evento crucial que demonstra o potencial da IA para causar “danos catastróficos” caso suas capacidades cresçam sem limites de segurança.

Amodei propôs um plano de três etapas para controlar o ritmo do desenvolvimento da ​IA, incluindo testes de segurança mais rigorosos e avaliações independentes de modelos avançados, ⁠coordenação entre as principais empresas de IA e ​cooperação internacional.

“Concordo com Dario que precisamos moderar o avanço nessa fronteira. Esse tem sido um dos principais temas das discussões que tivemos na ⁠OpenAI nas últimas semanas”, disse Altman ao repostar a publicação de Amodei na rede social X.

Altman disse que a OpenAI pretende ​adotar a ideia proposta pela Anthropic, comprometendo-se a contar com avaliadores independentes com acesso semelhante ao de funcionários.

Altman já havia alertado sobre os riscos muito antes do atual boom da IA. Em um ensaio de 2015 intitulado “Inteligência Artificial, parte 1”, ele afirmou que “o desenvolvimento de inteligência artificial sobre-humana é provavelmente a maior ameaça à continuidade da existência da humanidade”.

“Dario está ‌certo”, disse o empresário bilionário em sua rede social X, respondendo à postagem de Amodei.

Musk ‌estava entre os apoiadores de uma ​iniciativa de 2023 do Future of Life Institute, organização sem fins lucrativos, para suspender o desenvolvimento de IA por seis meses, a fim de dar tempo para a criação de medidas de segurança.

Ele também fez parte de um grupo de pesquisadores de IA e robótica que escreveu uma carta aberta em 2015 defendendo uma proibição global de “armas autônomas ofensivas”.

Mark Zuckerberg afirmou que a concorrência e a responsabilidade dão às empresas de IA motivos suficientes para agirem ‌individualmente em relação à segurança, parecendo se distanciar dos apelos dos líderes das principais empresas de IA por uma desaceleração coordenada no desenvolvimento da tecnologia.

Suleyman afirmou compartilhar do foco da Anthropic no gerenciamento seguro da IA, mas destacou riscos na forma como a empresa treina seu chatbot Claude em relação a conceitos ligados à consciência e ao bem-estar.

“Controlar algo mais capaz e mais inteligente do que toda a humanidade já é um desafio imenso, muito maior do que qualquer coisa que já enfrentamos.