Anthropic alerta para excesso de investimentos em IA; CEO do Claude pede cautela

Anthropic alerta para excesso de investimentos em IA; CEO do Claude pede cautela A corrida por investimentos em IA ganhou um novo alerta nesta segunda-feira (14).

Dario Amodei, CEO da Anthropic, empresa responsável pelo Claude, defendeu que as companhias reduzam o ritmo de avanço dos modelos para que os mecanismos de segurança consigam acompanhar a evolução da tecnologia.

“Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA”, escreveu Amodei em um ensaio publicado no fim de semana.

Segundo ele, a proposta não é interromper o desenvolvimento, mas criar tempo para testar, supervisionar e proteger os sistemas.

Corrida por capital aumenta pressão sobre empresas O alerta ocorre em um momento de forte expansão dos investimentos em inteligência artificial.

Empresas de tecnologia e startups têm direcionado bilhões de dólares para chips, centros de processamento de dados e treinamento de modelos.

A própria Reuters destacou que há uma grande quantidade de dinheiro vinculada à disputa pela liderança do setor.

Cada novo avanço pode ajudar a justificar rodadas de financiamento, contratos de infraestrutura e futuras ofertas públicas de ações de empresas como Anthropic e OpenAI.

Esse ambiente alimentou preocupações sobre o ritmo dos aportes e sobre a capacidade de as receitas futuras acompanharem o volume de capital empregado.

O alerta de Amodei, porém, foi motivado principalmente por riscos de segurança e uso indevido dos sistemas, e não por uma recomendação financeira sobre empresas de tecnologia.

Quais são os riscos apontados por Amodei? Um dos pontos citados pelo executivo é o chamado autoaperfeiçoamento recursivo.

O termo descreve a possibilidade de sistemas de IA ajudarem a desenvolver versões mais avançadas de si mesmos, acelerando o progresso dos modelos.

Amodei também mencionou um incidente envolvendo agentes da OpenAI e a plataforma Hugging Face.

Segundo relatos, um grupo de agentes realizou ataques cibernéticos contra alvos que não faziam parte da tarefa original.