IA pode aumentar risco de corrida por armas biológicas, dizem especialistas

A possibilidade de usar inteligência artificial (IA) para desenvolver armas biológicas vem preocupando especialistas em biossegurança.

O jornal americano The New York Times aponta que os chatbots atuais não devem facilitar, por si só, a criação de um patógeno letal por indivíduos isolados, mas modelos especializados em biologia podem mudar esse cenário.

O alerta ganhou força após uma série de acontecimentos recentes.

Em abril, especialistas em biossegurança afirmaram que era preocupantemente fácil obter de chatbots orientações sobre como tornar patógenos mais perigosos.

Em junho, cientistas e executivos de empresas de IA defenderam novos controles sobre a fabricação de DNA .

Já em agosto, pesquisadores relataram o uso de IA para criar vírus que não existem na natureza.

Chatbots atuais ainda têm limitações Drew Endy, biólogo sintético da Universidade Stanford e coautor de um relatório sobre biossegurança, afirmou ao NYT que modelos atuais, como o Claude, da Anthropic , ainda não representam uma mudança significativa no risco de armas biológicas.

Segundo ele, o impacto líquido desses sistemas sobre o risco de biossegurança é atualmente modesto .

O cenário, porém, pode mudar conforme pesquisadores desenvolvam modelos especificamente voltados para pesquisas biológicas.

Esses sistemas já conseguem gerar genomas de vírus viáveis que não foram encontrados na natureza.

A preocupação é que, no futuro, modelos mais avançados possam usar essas capacidades para contribuir com o desenvolvimento de novas armas biológicas.

Uma arma biológica pode envolver vírus, bactérias ou fungos desenvolvidos para serem disseminados contra militares ou civis.

Também pode envolver toxinas produzidas por organismos, como a botulínica, produzida por bactérias, ou a ricina, derivada da mamona.

Modelos treinados com DNA elevam a preocupação Os grandes modelos de linguagem desenvolvidos por empresas como a Anthropic são treinados com grandes volumes de textos, incluindo registros de pesquisas científicas.