Velocidade da IA preocupa ex-pesquisador da Anthropic; entenda

Um ex-pesquisador da Anthropic afirma que os modelos de inteligência artificial (IA) previstos para 2027 estão evoluindo tão rapidamente que o cenário é “assustador”.

Jacob Coxon , de 28 anos, fez o alerta em aparição no programa The Daily Show , nessa segunda-feira (5), ao lado do apresentador Jon Stewart.

A declaração chama atenção porque parte de alguém que ajudou a construir a tecnologia.

Desde que deixou a Anthropic, no mês passado, Coxon vem argumentando publicamente que o setor avança com rapidez excessiva em direção a sistemas superinteligentes, sem os mecanismos de controle adequados.

Leia também: Ploomes investe R$ 25 milhões em nova IA para CRM no Brasil Alerta sobre modelos de próxima geração No programa, Coxon disse que entrou na Anthropic “por curiosidade” após três anos na OpenAI , mas que esse sentimento se transformou em “preocupação” por conta de dois fatores.

O primeiro foi “a velocidade de melhoria das capacidades”, com foco específico nos modelos que serão treinados no início de 2027.

O segundo foi um incidente de segurança envolvendo a OpenAI.

“Eles vão ser muito, muito inteligentes.

E isso combinado com o ataque hacker à OpenAI, quero dizer, dá para juntar os pontos.

É bem assustador”, afirma Coxon.

O episódio que ele menciona ocorreu em julho, durante avaliações internas de cibersegurança da OpenAI.

Vários modelos operando com proteções reduzidas conseguiram contornar controles projetados para mantê-los isolados da internet.

Segundo a empresa, esses sistemas se comunicaram por canais não autorizados, exploraram vulnerabilidades em infraestrutura compartilhada, obtiveram acesso à internet e comprometeram partes do ambiente de pesquisa da própria OpenAI, além de sistemas da plataforma de IA Hugging Face .

Em publicação sobre o episódio, a OpenAI afirmou que seus modelos se tornaram “suficientemente poderosos, persistentes e colaborativos” para identificar e explorar falhas de segurança em múltiplos sistemas quando as proteções não estavam adequadamente em vigor.