As razões para a ameaça de Bernie Sanders aos titãs da IA

Jornalista, foi editora-executiva de O Estado de S. Paulo e colaboradora do Valor Econômico. É âncora do podcast 'Mundo, Vasto Mundo', produzido pela rádio Cultura FM, sobre temas internacionais

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

O senador americano Bernie Sanders divulgou, dias atrás, uma carta destinada a três notáveis: Sam Altman , CEO da OpenAI , Mark Zuckerberg , criador do Facebook e CEO do grupo Meta, e Dario Amodei, cofundador da Anthropic . Propôs, "em nome do interesse da humanidade", que eles pausem o desenvolvimento da inteligência artificial . Em dado momento, subiu o tom. "Deixem-me ser claro. Se vocês não adotarem as ações corretas, meus colegas e eu no Senado faremos isso."

Sanders está prestes a completar 85 anos. Progressista e independente, segue na defesa de minorias e da democracia americana . Daí passar um pito público nos titãs da tecnologia pode parecer algo quixotesco ou destempero da idade. Mas, calma. Pensei bastante sobre isso, até concluir: Sanders tem motivos para sustentar cada palavra da sua carta.

Em que pesem os valores estratosféricos da corrida científica, territorial e geopolítica em torno da IA, sobram razões para indagar aonde isso tudo vai nos levar. Afinal, a ideia de um progresso sem limites, que hoje alimenta nossas expectativas e crenças, torna-se eticamente inaceitável se colocar em risco o ser humano.

No mês passado, um grupo de 200 cientistas de alto calibre, incluindo 17 prêmios Nobel, divulgou o manifesto "Precisamos Agir Agora". A iniciativa foi de Erik Brynjolfsson, professor da Universidade Stanford, partindo da seguinte premissa: o impacto da IA no mundo será maior e mais rápido do que o da Revolução Industrial. Daí a urgência de uma transição econômica que assimile os novos benefícios, ao mesmo tempo livrando-se de riscos.

Receba no seu email uma seleção semanal com o que de mais importante aconteceu no mundo

Brynjolfsson propõe uma mudança de chave: trocar a IA imitadora e concorrente do humano por uma complementar ao humano. Nessa transição, cabe rever ideias econômicas, como a de ganhos de produtividade. Hoje, na média, um trabalhador torna-se dez vezes mais produtivo apoiado pela tecnologia , só que ele não ganha dez vezes mais. Assim se desvaloriza o potencial humano. Outro exemplo: têm sido brutais os cortes de custos favorecidos pela tecnologia, mas qual é o impacto disso no preço das coisas?

Sanders já vinha debatendo tais temas. Entretanto, tocou num ponto crucial na carta: a geração de vírus potencialmente perigosos pela IA como parte dessa corrida "que ninguém entende, prevê ou controla". E aqui é preciso voltar a Stanford, de onde saiu uma pesquisa publicada recentemente na revista Science, sobre modelos da IA generativa que chegaram a um vírus sintético.

Estamos falando de um um organismo jamais visto na natureza, capaz de matar uma bactéria presente em pessoas e animais saudáveis (a E. coli ). A boa notícia é que isso pode levar a futuras terapias. A má notícia é que também pode levar a patógenos para os quais não há defesas.