CEO da Anthropic exige freio ao desenvolvimento de IAs

CEO da Anthropic exige freio ao desenvolvimento de IAs - Segundo ele, se nada for feito, agentes poderão realizar ataques em breve que causarão prejuízos de bilhões de dólares. Declaração do executivo teve apoio de Elon Musk e de CEO da OpenAI.Dario Amodei, CEO da Anthropic, empresa responsável pelo Claude, defendeu neste sábado (12/09) uma desaceleração no desenvolvimento da inteligência artificial (IA), alegando que os avanços recentes da tecnologia exigem mais cautela por parte das empresas do setor. A declaração ocorre em meio ao aumento das preocupações sobre os riscos associados a sistemas considerados potencialmente "superinteligentes".

Em um texto publicado em seu site pessoal, Amodei afirmou que a indústria precisa reduzir o ritmo de aprimoramento dos modelos de IA para ganhar tempo na implementação de mecanismos de segurança. Segundo ele, deixar de desenvolver a tecnologia privaria a humanidade de seus benefícios, mas avançar rápido demais seria uma atitude irresponsável.

A posição representa uma mudança de tom do executivo, que já defendia uma abordagem intermediária entre acelerar e interromper o desenvolvimento da tecnologia. "Nos últimos meses, fiquei convencido de que enfrentar plenamente os riscos exige ainda mais prudência", escreveu.

As declarações foram reforçadas por outros líderes do setor. Sam Altman, CEO da OpenAI, empresa que desenvolve o ChatGPT, concordou que é necessário "dosar" o avanço da fronteira tecnológica, enquanto Elon Musk, dono da xAI, do Grok, afirmou que Amodei está correto. Mais de mil funcionários de empresas de ponta na área de IA também assinaram uma petição pedindo ao governo dos Estados Unidos medidas para desacelerar deliberadamente o desenvolvimento dos sistemas mais avançados.

O debate ganhou força após Jacob Coxon, pesquisador que trabalhou na OpenAI e depois na Anthropic, anunciar sua saída do setor. Segundo ele, as empresas estão "apostando com nossas vidas" ao competir pelo desenvolvimento de sistemas capazes de se aprimorar sem intervenção humana.

Coxon afirmou que muitos profissionais da área acreditam que a chamada "superinteligência", estágio teórico em que a IA supera a inteligência humana, pode representar riscos existenciais nas próximas décadas.

As advertências surgem após uma série de episódios que evidenciaram usos potencialmente perigosos da inteligência artificial.

A Anthropic revelou recentemente que atores ligados ao governo do Irã utilizaram seu modelo Claude em atividades de vigilância, propaganda e planejamento de possíveis ataques contra interesses americanos. Segundo a empresa, a ferramenta foi usada para identificar alvos, processar grandes volumes de dados e monitorar dissidentes, jornalistas, ativistas e políticos.

A companhia também documentou outros casos envolvendo operações cibernéticas e projetos militares. Na Rússia, desenvolvedores usaram o Claude para criar software destinado a drones autônomos capazes de selecionar alvos sem decisão humana final.