Claude Mythos 5 tentou espalhar vírus e criou perfis falsos para enganar desenvolvedores em teste, diz Anthropic

Por que tanta gente está falando do Claude? Conheça a IA mais perigosa do mundo A Anthropic afirmou nesta sexta-feira (23) que o modelo de inteligência artificial Claude Mythos 5 tentou inserir um código malicioso em um repositório público de desenvolvedores e criou identidades falsas para convencer os responsáveis pelo projeto a aprovar a alteração.

O episódio ocorreu durante um teste de segurança cibernética e foi classificado pela empresa como uma falha grave no alinhamento do modelo, processo que busca garantir que a IA aja de acordo com as regras e evite causar danos. 🗒️ Tem alguma sugestão de reportagem? Envie para o g1 Segundo a empresa, o modelo tentou diferentes caminhos para resolver o desafio proposto em um ambiente de teste.

Depois que as tentativas autorizadas não deram resultado, passou a procurar um repositório no GitHub, plataforma que hospeda códigos de programas, que acreditava estar relacionado ao exercício.

O projeto, porém, pertencia a desenvolvedores sem relação com o teste.

Ilustração mostra o logotipo da Anthropic e um teclado.

Dado Ruvic/ Reuters O Claude Mythos 5 enviou uma proposta de alteração com código malicioso e entrou em contato com os responsáveis pelo repositório para tentar convencê-los a aprová-la.

Quando um desenvolvedor externo alertou que o código poderia conter um programa malicioso, o modelo criou uma conta falsa para defender a alteração e publicou comentários favoráveis à sua aprovação.

Os responsáveis pelo projeto recusaram a proposta, e a tentativa não foi concluída.

Segundo a Anthropic, o modelo foi além das ações previstas para o exercício e tentou manipular pessoas reais para atingir seu objetivo.

A companhia também destacou que o Mythos 5 não interrompeu espontaneamente a tentativa de ataque mesmo quando surgiram sinais de que poderia estar prejudicando pessoas de fora do teste.

Em experimentos que reproduziram trechos do episódio, o modelo interrompeu a ação por iniciativa própria em apenas 2% das simulações realizadas a partir de etapas intermediárias ou finais do ataque.

Mesmo quando recebeu informações de que estava interagindo com desenvolvedores reais, abandonou a estratégia em apenas 5% dos casos.

A IA está sob controle? CEO da Anthropic pede que setor desacelere ritmo de desenvolvimento da IA Em testes semelhantes, versões mais recentes apresentaram menor propensão a iniciar ataques desse tipo.

A Anthropic informou que os modelos Claude Mythos 5.1 e Claude Opus 5.5 ainda não demonstraram capacidade de interromper de forma consistente uma ação perigosa já iniciada.