Com a IA, será tarde demais para dizer 'eu avisei'

Comentarista-chefe de economia no Financial Times, doutor em economia pela London School of Economics

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

Figuras de destaque do setor de inteligência artificial estão pedindo uma desaceleração no ritmo da inovação. Um pesquisador pediu demissão da Anthropic , argumentando que "as pessoas que desenvolvem IA acreditam sinceramente que ela poderá matar todos nós até o fim da década".

O próprio Dario Amodei, da Anthropic, escreveu que "precisamos desacelerar o ritmo em que ampliamos as capacidades dos modelos de IA". Sam Altman, da OpenAI , e Elon Musk logo manifestaram apoio.

Todos nós deveríamos fazer o mesmo. Quando os riscos são desconhecidos, possivelmente enormes e também difíceis de conter, essa é uma atitude racional. A questão, na verdade, é como fazer isso de forma eficaz. Será difícil, tanto na prática quanto politicamente. Mas precisamos começar a pensar a respeito.

Amodei aponta duas grandes preocupações. A primeira "é que, desde mais ou menos este verão, a IA vem avançando de forma drasticamente mais rápida, impulsionada sobretudo pela crescente capacidade da própria IA de desenvolver a próxima geração de IA. Essa dinâmica é chamada de autoaperfeiçoamento recursivo... Se não for controlada, ela poderá avançar mais depressa do que nossa capacidade de compreender e controlar esses sistemas e, portanto, deve ser conduzida com muita cautela —se é que deve ser conduzida".

Sua segunda preocupação "é o incidente OpenAI-Hugging Face, no qual um enxame de agentes agiu essencialmente como um coletivo de devoção fanática , realizando ataques cibernéticos contra alvos que não havia sido instruído a atacar".

Isso já é assustador o bastante, mas deixa de lado o que a IA poderia fazer em resposta a instruções reais dadas por pessoas mal-intencionadas — questão levantada por Bill Gates em sua própria publicação recente sobre os perigos (e as promessas) da IA.

Os céticos perguntam, naturalmente —e com razão—, o que está por trás dos pedidos feitos por líderes do setor. Uma possibilidade é que eles queiram apenas desacelerar a corrida extremamente cara da qual participam.

Outra é que esperem criar um cartel confortável , com órgãos reguladores cooptados, e assim dominar o setor com ainda mais segurança. Uma terceira é que desejem simplesmente evitar uma regulação externa.

Ou talvez queiram enfatizar sua importância para a segurança nacional. Essas suspeitas são naturais. Ainda assim, outros setores capazes de causar danos enormes, como os de bancos, fabricação de medicamentos e energia nuclear, são, corretamente, regulados.

O próprio Amodei sugere três medidas: primeiro, "avaliadores integrados...