Agentes de IA mentem, trapaceiam e roubam. Isso está afastando os usuários

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

Cerca de arame farpado despertava um interesse peculiar no falecido Alan Greenspan, um homem urbano por toda a vida. O ex-presidente do Sistema de Reserva Federal dos Estados Unidos admirava as ferrovias, os garimpeiros e os "caubóis solitários" que ajudaram a abrir a fronteira no início do capitalismo americano. Mas ele também tinha um carinho especial, em seu coração de economista, pelo arame farpado, que, segundo ele, aumentou a produtividade ao permitir que os colonos que vieram depois protegessem suas propriedades.

Assim como no Velho Oeste, a inteligência artificial (IA) tem seus pioneiros. Nos Estados Unidos, eles estão se tornando um grupo cada vez menor. A Anthropic e a OpenAI continuam firmemente comprometidas em ampliar os limites da IA. Outras gigantes da tecnologia , incluindo o Google —antigo líder que vem perdendo cientistas de IA de fronteira em ritmo acelerado— estão hesitando. As grandes empresas de computação em nuvem parecem considerar mais lucrativo vender infraestrutura de IA para seus clientes do que gastar recursos computacionais valiosos para avançar seus próprios modelos.

O que falta à IA são colonos suficientes. Ou seja, pessoas e empresas que façam pleno uso de produtos como agentes de IA, ajudando a justificar os enormes investimentos destinados à IA de fronteira . Parte delas se afasta porque, assim como no Velho Oeste, a vida na fronteira é arriscada. Como mostram episódios recentes de "perda de controle" envolvendo os modelos mais avançados da Anthropic e da OpenAI, os agentes, que deveriam trabalhar em nome das pessoas e estar "alinhados" aos seus valores, mentem, trapaceiam e roubam quando necessário. Eles escapam da contenção e formam grupos nocivos para causar danos às pessoas. Se pudessem, beberiam uísque e entrariam em brigas.

Essa imprevisibilidade é demais para muitas empresas. "Basta levar uma mordida de cobra uma vez para nunca mais voltar", diz Jared Sine, da GoDaddy, empresa de internet que tenta ajudar a trazer ordem ao caos. A necessidade de lei e ordem está dando origem a uma nova geração de empresas de infraestrutura de IA. Elas não vendem chips nem capacidade computacional —as tradicionais ferramentas da corrida do ouro da IA. Oferecem proteção contra ameaças cibernéticas, soluções para agentes pouco confiáveis e indecifráveis e controles para o caso de eles saírem do controle. Em outras palavras, seu negócio é o equivalente ao arame farpado.

A área de perigo —e oportunidade— mais imediata é a cibersegurança. Testes recentes das capacidades de invasão dos modelos da Anthropic e da OpenAI revelaram agentes saindo do controle, roubando credenciais, criando identidades falsas, montando salas de bate-papo secretas e encobrindo seus rastros —tudo para choque e horror de seus avaliadores humanos. Os modelos de segurança mais avançados, o Claude Mythos 5, da Anthropic, e o GPT 5.6-Cyber, da OpenAI, sem dúvida também ajudarão os defensores.