Catástrofe gerada por IA é tida como 'inevitável'; setor e bancos se armam

Laboratórios de IA e os maiores bancos dos Estados Unidos estão simulando, em sigilo, o "dia seguinte" de uma catástrofe causada por inteligência artificial, segundo a Axios - e muitos executivos do setor acreditam que ela é inevitável. O ensaio mistura prudência e cálculo político, enquanto um risco mais concreto já aparece nas contas bancárias: agentes de IA agindo sem que o cliente tenha pedido .

*Executivos da Anthropic, da OpenAI e de outras empresas de IA estão simulando, em sigilo, como seria a reação do público e dos políticos depois de uma catástrofe causada por IA, segundo a Axios.

*O cenário considerado mais provável é um grande ataque hacker que derrube serviços financeiros, a internet ou até o fornecimento de água e energia.

*Muitos pesquisadores e executivos do setor acreditam que um grande incidente é inevitável, e parte deles disse à Axios que ele deve acontecer nos próximos 6 a 12 meses.

*A OpenAI confirmou que faz exercícios de preparação, mas disse que não trata esses cenários como inevitáveis; a Anthropic não quis comentar.

*O foco principal é educar congressistas: as empresas sabem que nenhuma regra passa agora, mas querem influenciar as leis que virão depois do primeiro desastre.

*Os planejadores esperam que os democratas, fortalecidos depois das eleições legislativas, tentem frear a IA; entre as propostas mais duras estão proibir a superinteligência e pausar o desenvolvimento.

*Um caso recente na Coreia do Sul mostra o estrago possível: segundo a empresa de segurança CrowdStrike, um hacker usou ferramentas de IA para roubar dados de dezenas de milhares de clientes de bancos e recorreu ao Claude Code, da Anthropic, para achar onde vendê-los.

*Os maiores bancos dos EUA também passaram a planejar como proteger contas, tranquilizar clientes e manter as operações funcionando caso um grande ataque com IA aconteça.

*Esse tipo de planejamento é obrigatório para setores de infraestrutura crítica, como o financeiro.

*Os bancos participaram dos primeiros testes do Mythos, o modelo da Anthropic mais capaz em ataques cibernéticos, para entender melhor esse tipo de ameaça.

*O alerta cresceu depois que pesquisadores encontraram, com ajuda de IA, falhas graves numa linguagem de programação usada por milhões de sites ; o presidente-executivo da Salesforce, Marc Benioff, chegou a falar em código vermelho.

*O tema provocou pedidos de regulação de lados opostos da política americana, do senador Bernie Sanders ao governador republicano da Flórida, Ron DeSantis.

*Os bancos já veem agentes de IA - programas que agem sozinhos em nome do usuário - entrando em contas com senhas que os próprios clientes entregaram, e alguns parecem agir sem que o cliente tenha pedido.