Como Anthropic diz que Claude foi manipulado para armas, espionagem e golpes

11 Set (Reuters) - A companhia norte-americana de inteligência artificial Anthropic afirmou em um relatório de inteligência de ameaças divulgado na quinta-feira que vários agentes utilizaram seus produtos para atividades que vão desde o desenvolvimento de armas e operações de espionagem eletrônica até vigilância e fraudes.

Aqui estão alguns dos casos mais notáveis descritos no relatório, conforme alegado pela Anthropic.

• DEFESAS AÉREAS DA CHINA E DE TAIWAN: A Anthropic afirmou que um agente sediado na China utilizou o chatbot Claude para desenvolver um pacote de software de guerra eletrônica e supressão de defesa aérea que classificava alvos e simulava interferência ​de radar. Durante o projeto, o agente alterou uma simulação para incluir 12 alvos em Taiwan, entre eles radares de alerta antecipado, baterias de mísseis Patriot e Tien Kung, bases ​aéreas e um bunker de comando. A Anthropic afirmou que informações das contas ligavam o agente a instituições de pesquisa chinesas, incluindo a Academia de Ciências Militares do Exército Popular de Libertação. A Anthropic baniu as contas ligadas ao agente.

O Ministério das Relações Exteriores da China afirmou não ter conhecimento do relatório da Anthropic e que o governo defende que a inteligência artificial deve ser desenvolvida para o bem e se opõe à distorção dos fatos e às calúnias contra o país.

A China reivindica Taiwan como seu próprio território e nunca renunciou ao uso da força para colocar a ilha sob seu controle. Taiwan rejeita as reivindicações de soberania de Pequim.

• SISTEMA ANTITORPEDO CHINÊS: A Anthropic afirmou que outro agente sediado na China utilizou o Claude para ajudar ​a desenvolver especificações e software de controle de fogo para um sistema antitorpedos destinado à Marinha chinesa. O agente utilizou ⁠o Claude para elaborar uma proposta técnica de mais de 200 páginas, ​comparar o sistema com a tecnologia da Marinha dos EUA e simular análises técnicas hostis para aprimorar a proposta. “Avaliamos que o agente estava associado a um fabricante da indústria de militar chinesa com o objetivo de produzir uma especificação de ⁠armas e uma proposta de aquisição para a Marinha do Exército Popular de Libertação”, afirmou a Anthropic.

• PESQUISA CHINESA SOBRE ARMAS DE MICROONDAS: Um agente de inteligência na China utilizou o Claude para ​pesquisar armas de microondas de alta potência estrangeiras, identificar componentes e fornecedores e rastrear cadeias de suprimentos, afirmou a Anthropic. O agente buscou informações que pudessem ajudar na engenharia reversa das armas e no desenvolvimento de contramedidas, além de redigir relatórios confidenciais para funcionários de alto escalão do Partido Comunista Chinês, das Forças Armadas ou da segurança do Estado, informou a empresa.

• DESENVOLVIMENTO DE MÍSSEIS NO IÊMEN: A Anthropic informou que um grupo de agentes mal-intencionados no norte do Iêmen utilizou o Claude para ajudar a desenvolver software para um foguete guiado, um míssil balístico com alcance ‌de mais de 2.000 quilômetros e uma variante de míssil que incorpora um veículo de planagem hipersônica.