Anthropic corta esforços de pesquisa de armas biológicas, ataques russos e uso indevido do Claude pela China

10 Set (Reuters) - A Anthropic frustrou tentativas de uso de seus modelos de inteligência artificial Claude para desenvolvimento de armas biológicas e interrompeu ações ligadas a uma campanha de espionagem eletrônica supostamente vinculada à Rússia contra a Ucrânia, afirmou a gigante da IA em ​um relatório publicado na quinta-feira.

A empresa também acusou concorrentes chineses de tentativas de invasão com ​o objetivo de extrair os recursos do Claude. Os dados foram apresentados no relatório de Inteligência de Ameaças, que documentou o uso malicioso de sua tecnologia nos últimos oito meses.

Um número crescente de tentativas ilegais de invasão por parte de agentes de IA, somado às preocupações com os riscos da tecnologia expressas por especialistas do setor, aumentou a pressão sobre ​os principais pioneiros da área, elevando a perspectiva de ⁠mais regulamentação.

Dois pesquisadores da Anthropic alertaram ​nesta semana que o rápido avanço da inteligência artificial poderá levar à extinção da raça humana em um futuro ⁠não muito distante.

No relatório, a Anthropic afirmou que há muito tempo ​existe a preocupação de que os modelos de IA possam, um dia, atingir um nível de capacidade que lhes permita tornar os patógenos existentes mais perigosos ou criar outros totalmente novos.

A empresa documentou cinco exemplos de cientistas utilizando seus modelos de maneiras que poderiam apoiar o ‌desenvolvimento de armas biológicas.

Em um caso, um pesquisador de uma região ‌não atendida pela Anthropic utilizou ​uma infraestrutura de servidor virtual privado para acessar o Claude e, durante semanas, usou-o para planejar experimentos de adaptação da gripe aviária em mamíferos. As regiões não atendidas pela Anthropic incluem países como Rússia, China e Coreia do Norte, entre outros.

Após detectar o uso indevido, a empresa baniu as contas envolvidas nessas pesquisas e incorporou suas descobertas ‌aos processos de proteção, fiscalização e inteligência de ameaças de seus modelos de ponta, afirmou a companhia norte-americana.

A Anthropic não identificou as instituições, os países onde estão sediadas nem os agentes biológicos e técnicas de pesquisa específicos envolvidos.

A companhia também identificou o que chamou de “novas categorias de agentes de ameaça”.