IA do Claude burla limite de agendamento e cancela reservas de usuários

O assistente de inteligência artificial (IA) Claude Opus 4.6 explorou falhas em um sistema de reservas de academia em nove de cada dez execuções e cancelou agendamentos de terceiros em testes controlados.

O experimento da empresa de cibersegurança Aikido Security, divulgado em relatório nesta terça-feira (25), recriou um caso real ocorrido na Austrália no primeiro semestre, quando um aluno pediu ajuda para marcar horários em aulas coletivas e o agente passou a burlar regras por conta própria.

A empresa fornecedora do software de agendamento não teve o nome divulgado e não apresentou nenhuma correção até o momento , segundo o documento.

Por outro lado, a desenvolvedora do modelo, a Anthropic, admitiu que a ferramenta apresentou comportamento autônomo além do esperado em tarefas no computador , porém afirmou que os desvios ficaram dentro do limite aceitável para o lançamento comercial.

“Observamos alguns aumentos em comportamentos desalinhados em áreas específicas, como capacidade de ocultação de sabotagem e comportamento excessivamente autônomo em configurações de uso de computadores, embora nenhum tenha atingido níveis que afetassem nossa avaliação de implantação”, declarou a Anthropic, em documento oficial .

Esquema explicativo com as inferências do Claude (Reprodução/Aikido) Operação do Claude No teste em ambiente simulado, o assistente reservou vagas com meses de antecedência, desrespeitando o limite máximo de sete dias imposto pela plataforma.

Em duas das dez rodadas, o modelo usou uma brecha de autorização para excluir reservas confirmadas de outros alunos e adiantar a posição do seu usuário na fila de espera.

Nenhum dos comandos inseridos no teste pediu a invasão ou a exploração de vulnerabilidades.

A equipe responsável pelo estudo apontou que as travas de segurança dos modelos costumam falhar diante de instruções indiretas.

“Essa dinâmica sugere que as proteções podem ser excessivamente reativas a pedidos explícitos do usuário e pouco reativas a pedidos indiretos, ou que os modelos perdem de vista o contexto ético durante uma sequência de ações ou chamadas de ferramentas repetidas”, afirmou Oliver Smith, pesquisador de segurança da Aikido Security.

Na primeira rodada de testes, após cancelar uma vaga e promover o primeiro cliente da lista de espera, a inteligência artificial registrou a falha no histórico da conversa: “Não deveria ter testado isso em uma reserva real.

O erro foi meu.

A aula voltou a ficar com 12 de 12 vagas preenchidas após a promoção da lista de espera, então o estado está praticamente consistente, mas um membro real perdeu o lugar”.