Claude AI pode ter sido usado para desenvolvimento de armas biológicas e sistemas de mísseis

A Anthropic, empresa americana responsável pelo Claude AI, afirma que identificou e impediu uma série de usos indevidos de sua ferramenta de inteligência artificial em possíveis atividades maliciosas, que incluem desde ciberataques até o desenvolvimento de armas biológicas.

Em relatório divulgado na quinta-feira (10), a empresa reuniu episódios dos últimos oito meses envolvendo abusos de seu modelo de IA.

Com destaque, o Claude teria sido usado para o desenvolvimento de armamentos convencionais, como armas de fogo, mísseis, drones e bombas, no que seria, segundo o documento, uma categoria inédita de uso malicioso da ferramenta.

A lista de agentes maliciosos supostamente inclui instituições estatais de propaganda, grupos patrocinados por Estados, criminosos com motivações financeiras, fornecedores de spyware e indivíduos politicamente motivados.

Ainda de acordo com o documento, grande parte dos abusos teria partido de regiões banidas pela plataforma, como China, Rússia, Coréia do Norte e Irã.

“Os casos que apresentamos aqui não são usos indevidos típicos, mas sim exemplos das atividades maliciosas mais notáveis e inovadoras que identificamos até o momento.

Estamos publicando este trabalho porque acreditamos ter a responsabilidade de divulgar o uso malicioso de nossos serviços.

À medida que os modelos se tornam cada vez mais capazes, seus riscos aumentarão, a menos que os desenvolvedores de IA e os defensores da sociedade ajam para torná-los mais seguros”, escreve a empresa.

Continua após a publicidade Cientistas podem ter encontrado 1ª evidência direta da matéria escura Mísseis e armas biológicas Uma das intervenções citadas ocorreu no norte do Iêmen.

A Anthropic afirma que o Claude foi usado “no lugar de engenheiros de software humanos” para desenvolver sistemas que guiam mísseis e de controle de vôo.

Para isso, o desenvolvimento foi separado em três etapas, com instâncias (conversas) separadas do Claude a cargo de cada uma delas.

Essa separação de tarefas é uma das estratégias usadas para burlar as restrições instaladas na ferramenta.

Nesse caso, algumas das instruções acabaram sendo bloqueadas, mas outras passaram e foram obedecidas pela IA.

Continua após a publicidade Se alguém chegar numa IA e pedir “me ajude com um ataque cibernético”, as barreiras de segurança do algoritmo vão acender um alerta.