IA pode agir como vírus digital e se espalhar entre computadores

Uma inteligência artificial capaz de copiar a si mesma e se propagar entre computadores é uma possibilidade investigada por pesquisadores da Anthropic, empresa responsável pelo Claude.

Em estudo publicado em 12 de outubro, a companhia analisou os riscos de sistemas capazes de executar etapas de autorreplicação digital, levantando preocupações sobre segurança cibernética.Como funcionaria uma IA capaz de se replicar?A autorreplicação ocorre quando um sistema consegue transferir seus componentes para outros dispositivos, configurar o ambiente necessário para funcionar e tentar repetir o processo em novas máquinas.

O mecanismo se assemelha ao de um worm, ou verme digital, um tipo de programa malicioso que se propaga entre dispositivos conectados.

Com recursos de inteligência artificial, esse processo poderia envolver a identificação de ferramentas disponíveis e a adaptação a diferentes ambientes tecnológicos.

O que os pesquisadores descobriram?Segundo a pesquisa, modelos com até 30 bilhões de parâmetros já conseguem executar diversas tarefas individuais necessárias à autorreplicação, embora ainda apresentem dificuldades para combinar todas as etapas.

Em condições experimentais simplificadas, modelos mais capazes, incluindo o GLM-5.2, da chinesa Z.ai, conseguiram completar o ciclo testado.

Os pesquisadores também avaliaram a distribuição de um modelo de 26 bilhões de parâmetros entre 15 dispositivos do tipo TV box, investigando o potencial de equipamentos de baixo custo para executar sistemas de IA.A inteligência artificial pode escapar do controle?Os resultados não significam que a IA tenha consciência ou decida se espalhar por conta própria.

O risco está na possibilidade de um sistema executar tarefas complexas em sequência, especialmente quando tem acesso a ferramentas, redes e computadores sem supervisão adequada.

A pesquisa também não demonstrou que uma IA tenha invadido espontaneamente milhões de dispositivos reais ou se propagado livremente pela internet.

Os testes ocorreram em condições específicas e indicam desafios que precisam ser considerados no desenvolvimento de medidas de segurança.