A Anthropic afirma ter bloqueado possíveis tentativas de usar Inteligência Artificial (IA) para desenvolver armas biológicas, que poderiam matar pessoas

A Anthropic afirma ter bloqueado diversas contas que utilizavam os modelos de inteligência artificial da empresa de maneiras que poderiam apoiar o desenvolvimento de armas biológicas.

Em um relatório publicado na quinta-feira, a empresa de IA conhecida por seu modelo Claude afirmou que considera o uso indevido de recursos biológicos um dos “riscos mais sérios” para os modelos de inteligência artificial.

Leia Mais EUA autorizam Anthropic a divulgar modelo que gerou temor sobre segurança Claude fora do ar? IA da Anthropic apresenta instabilidade nesta quinta Claude caiu? Chatbot apresenta instabilidade nesta quarta-feira (5) O novo relatório descreve cinco estudos de casos reais em que usuários “contornaram os controles” que bloqueiam o acesso de usuários de regiões específicas e “empreenderam outras medidas para obscurecer o propósito de suas pesquisas e burlar nossas salvaguardas”.

Os exemplos incluem possíveis pesquisas de ganho de função e envolvem tanto doenças infecciosas, como a gripe aviária, quanto novos venenos e toxinas.

Ao analisar 30 dias de atividade, a Anthropic afirmou ter identificado cerca de 35 “esforços de pesquisa distintos” com atividades potencialmente preocupantes.

No entanto, reconheceu que não podia ter certeza se os agentes “pretendiam causar danos” ou se estavam conduzindo pesquisas para fins científicos legítimos.

A Anthropic afirmou que os indivíduos nos estudos de caso eram “cientistas atuantes” , mas não identificou as instituições de pesquisa ou os países onde as atividades ocorreram.

A Anthropic afirmou que os modelos recentes, incluindo o Claude Fable 5, possuem “salvaguardas mais robustas que restringem o acesso a uma ampla gama de consultas de pesquisa biológica de dupla utilização”. • Chris Ratcliffe/Bloomberg/Getty Images “Ataques sofisticados não exigem mais atacantes sofisticados”, afirma o novo relatório.

“As habilidades de cibersegurança dos modelos de IA significam que a IA eliminou a lacuna de mão de obra e ferramentas que antes separava operações bem financiadas e patrocinadas pelo Estado de operadores individuais.” Um dos estudos de caso detalhados no relatório envolveu um pedido de auxílio na redação de uma proposta de financiamento para pesquisa de ganho de função sobre a transmissibilidade e a evasão imunológica do vírus chikungunya.

Em outro caso, um pesquisador fora dos EUA estava usando Claude para um trabalho sobre gripe aviária, com foco na adaptação dos vírus aos mamíferos e em como isso causava doenças graves.

O relatório também detalha casos de pesquisa sobre ortopoxvírus, um grupo que inclui o vírus da varíola, causador da varíola humana, e o vírus da varíola humana (mpox), bem como toxinas de veneno.