Há algo que precisamos fazer agora mesmo em relação à inteligência artificial

Existe um abismo entre a forma como a inteligência artificial é percebida pela maioria de nós que a utilizamos e a forma como a IA é percebida na vanguarda experimental da tecnologia.

Essa diferença entre o que vemos e o que os laboratórios de IA estão desenvolvendo — o que eles já estão construindo — é a chave para entender por que tantas pessoas que trabalham nessas empresas parecem ter tanto medo do que estão fazendo.

Levar a sério os avisos deles não significa apenas fazer o que eles dizem e parar onde eles mandam parar.

A linguagem que se consolidou tanto no Vale do Silício quanto em Washington é uma frase escolhida por essas empresas: “Acompanhe a fronteira”.

Mas acompanhar a fronteira não basta.

Caminhar rapidamente para fora de um penhasco é apenas marginalmente melhor do que correr para fora dele.

Os seres humanos precisam controlar a fronteira, e controlar a fronteira significa impedir que os laboratórios façam algo que estão prestes a fazer: o aprimoramento recursivo, ou ACR, o processo pelo qual as IAs começam a construir e aprimorar autonomamente novas gerações de IAs mais poderosas em velocidades cada vez maiores.

Não estamos nem perto de ter controle suficiente sobre os sistemas de IA que temos agora para liberá-los e construir os sistemas de IA do futuro.

Não estou sozinho nesse medo.

O aprimoramento pessoal recursivo, escreveu Dario Amodei, CEO da Anthropic , “pode ultrapassar nossa capacidade de compreender e controlar esses sistemas e, portanto, deve ser buscado com muita cautela, se é que deve ser buscado”.

Esse “se é que vai acontecer” é importante, e voltarei a ele.

Mas, para controlar a fronteira da IA, primeiro precisamos saber o que está acontecendo nessa fronteira.

Para a maioria de nós que a utilizamos, a IA se apresenta como uma versão mais poderosa e personalizada da busca do Google.

Usamos para encontrar respostas para perguntas básicas, buscar restaurantes, perguntar sobre questões médicas, redigir e-mails e pedir conselhos sobre problemas pessoais.