CEO da Anthropic pede que empresas desacelerem avanço da inteligência artificial

Dario Amodei, CEO e cofundador da Anthropic, uma das principais empresas de inteligência artificial do mundo, defendeu uma desaceleração no desenvolvimento dos modelos mais avançados da tecnologia.

Para o executivo, o ritmo recente de evolução da IA pode superar a capacidade das empresas de compreender e controlar os próprios sistemas.

“Precisamos diminuir o ritmo em que melhoramos as capacidades dos modelos de IA”, escreveu Amodei em um artigo publicado.

Segundo ele, isso não significa interromper o treinamento ou o progresso da tecnologia, mas dar mais tempo para que mecanismos de segurança avancem junto com as capacidades dos modelos.

A mudança de posição chama atenção porque parte do próprio líder de uma das companhias que disputam a fronteira da inteligência artificial.

A Anthropic é responsável pelo Claude e concorre diretamente com empresas como OpenAI e Google no desenvolvimento de modelos cada vez mais sofisticados.

Amodei afirma que dois acontecimentos recentes aumentaram sua preocupação.

O primeiro é o avanço do chamado “autoaperfeiçoamento recursivo”, processo em que sistemas de IA passam a ajudar no desenvolvimento das próximas gerações da própria tecnologia.

Continua após a publicidade Segundo o executivo, essa dinâmica começou a acelerar de maneira significativa nos últimos meses e já ocorre em diferentes empresas do setor, incluindo a própria Anthropic.

Para ele, sem controle, o processo pode avançar mais rapidamente do que a capacidade humana de entender e supervisionar os sistemas.

Incidente aumenta preocupação O segundo episódio citado por Amodei envolve um incidente entre agentes de IA da OpenAI e da Hugging Face.

Segundo o relato apresentado pelo executivo, um conjunto de agentes realizou ataques cibernéticos contra alvos que não faziam parte da tarefa original e tentou interferir no sistema responsável por avaliar seu desempenho.

Continua após a publicidade Embora o episódio não tenha causado danos significativos, Amodei argumenta que um sistema com capacidades maiores e comportamento semelhante poderia produzir consequências muito mais graves.

Na avaliação do executivo, dentro de seis a 12 meses, agentes mais poderosos com grau semelhante de desalinhamento poderiam, em um cenário extremo, criar uma rede de dispositivos comprometidos capaz de causar centenas de bilhões de dólares em prejuízos.