Musk e líderes de tecnologia defendem desaceleração de avanços em IA

Um coro expressivo de líderes de empresas de tecnologia está defendendo uma redução do ritmo de desenvolvimento de modelos de inteligência artificial ( IA ) em todo o planeta.

Em uníssono, executivos e pesquisadores ligados ao setor afirmam que é crescente o temor de utilização indevida de sistemas desse tipo, já empregados em atividades que vão de fraudes ao desenvolvimento de armas biológicas.

Essa opinião — a da necessidade de um freio nas pesquisas — é compartilhada pelos chefões da Anthropic (dona do Claude), Dario Amodei, da OpenAI (ChatGPT), Sam Altman, e pelo bilionário Elon Musk, da xAI, Tesla e, entre outras empresas, a SpaceX.

Leia também Vida & Estilo Aprovação de visto pode ser comprometida por uso de IA durante preparação Minas Gerais Câmara aprova uso de inteligência artificial nos serviços da PBH Game Nvidia anuncia DLSS 5 e detalha novo uso de inteligência artificial Gastronomia Mercados apostam em scanners de frutas com Inteligência Artificial A discussão ganhou fôlego com um artigo publicado por Amodei sobre o tema.

O texto foi compartilhado na rede social X, de Musk, depois que a Anthropic divulgou, na quinta-feira (10/9), um relatório de inteligência detalhando o emprego de modelos de IA da família Claude em operações cibernéticas e de influência, vigilância, golpes e na criação de armamentos.

Sam Altman comentou no X: “Concordo com Dario”, acrescentando que adotará na OpenAI sugestões feitas por Amodei para aumentar a segurança da criação de modelos de inteligência artificial.

Musk arrematou: “Dario está certo”.

Mais tempo No artigo, Amodei disse que não estava pedindo a interrupção do treinamento de sistemas de IA ou do progresso da tecnologia.

Ele defende que as empresas dediquem mais tempo para alinhar e proteger seus novos modelos.

Sustenta ainda que avaliadores de fora das empresas devem analisar a execução desses processos.

“Minha primeira preocupação é que, desde meados deste ano, a IA vem avançando de maneira drasticamente mais rápida, impulsionada por sua capacidade crescente de desenvolver a próxima geração de IA. (…) Se não for controlada, ela poderá superar nossa capacidade de compreender esses sistemas e, portanto, deve ser conduzida com extremo cuidado — se é que deve ser conduzida”, disse Amodei.

Controle em etapas O CEO da Anthropic propôs uma estrutura de controle da velocidade do desenvolvimento dos modelos em três etapas.

A primeira seria reservada para a criação de grupos de avaliadores externos permanentes.

Eles teriam acesso semelhante ao de funcionários das empresas de IA para verificar práticas de segurança, investigar incidentes e avaliar não apenas os modelos prontos, mas como foram treinados.