A outra metade da “fronteira” da IA

A 12 de setembro, o líder da Anthropic publicou o ensaio “We must pace the frontier” , em que defende que os laboratórios de inteligência artificial (IA) de ponta têm de abrandar o ritmo de desenvolvimento de novos modelos.

Dario Amodei quer integrar avaliadores externos nestas empresas, com direito a secretária, credencial e computador de trabalho, como qualquer funcionário interno, e liberdade para publicar tudo o que encontrarem.

Pouco depois, Sam Altman, líder da OpenAI, disse que era uma boa ideia e prometeu fazer o mesmo .

Num fim de semana, os líderes das duas empresas norte-americanas que vendem acesso à tecnologia de IA mais avançada do mundo reconheceram, publicamente, que a sua própria palavra sobre a segurança dos seus modelos já não chega: é preciso alguém de fora a verificá-la e confirmá-la.

A proposta de Amodei, subscrita por Altman, não é uma moratória.

O cofundador da Anthropic diz que abrandar “não significa parar o treino de modelos nem o progresso técnico”.

Por isso, não há prazo, mas há uma pergunta subjacente: quem pode olhar para dentro de um modelo antes do lançamento? A proposta de Dario Amodei tem dois limites.

O primeiro é que só alcança a tecnologia que alguém continua a controlar.

O sistema que este sugeriu também passa por certificações que acompanham o modelo, o que pressupõe que o mesmo continua sob o controlo da empresa depois do lançamento.

No entanto, quem publica os parâmetros — os chamados pesos — perde esse controlo no instante em que o faz.

Governar o fornecedor é possível.

Governar cada cópia de um modelo já publicado, não.

Essa é, porém, a realidade de muitos modelos com capacidades relativamente próximas dos modelos proprietários oferecidos pela Anthropic e pela OpenAI, incluindo os modelos Llama, da Meta — uma empresa norte-americana –, ou, mais notoriamente, o GLM-5.2 da Z.ai, o Kimi K3 da Moonshot AI, ou os populares modelos da DeepSeek, todas empresas sedeadas na China.

O ciberataque de julho à Hugging Face mostrou o que isso representa na prática.