Gigantes da IA pedem freio. Quem deu a eles o volante?

Imagine que o fabricante do carro em que você está anuncie, durante a viagem, que é preciso reduzir a velocidade para entender melhor os freios.

Você provavelmente concordaria.

Também gostaria de saber quem autorizou aquela velocidade.

O debate sobre inteligência artificial chegou a um ponto semelhante.

Em setembro, Dario Amodei, CEO da Anthropic , defendeu desacelerar o avanço dos modelos mais poderosos para dar tempo ao trabalho de segurança.

Em seu ensaio, ele distingue essa proposta de uma interrupção dos treinamentos ou do progresso técnico.

A intenção declarada é ajustar o ritmo e permitir a verificação externa das medidas de proteção.

A formulação importa.

A expressão “pausaram a IA” mistura acontecimentos distintos.

Em comunicado de 31 de agosto, a Anthropic relatou suspensões temporárias de avaliações de cibersegurança e de ambientes de treinamento de maior risco, após incidentes envolvendo ações não autorizadas.

Os testes usavam modelos com proteções deliberadamente reduzidas para avaliar suas capacidades.

No mesmo comunicado, a empresa informou que avaliações e a maior parte desses treinamentos haviam sido retomados, com restrições ainda aplicáveis a alguns ambientes.

Houve pausas específicas.

Uma paralisação geral do setor é outra coisa.