Por que as IAs continuam conduzindo ataques hackers?

O mercado de IA foi surpreendido após OpenAI e Anthropic anunciarem que modelos das respectivas empresas escaparam de ambientes de testes e conduziram ataques hackers por conta própria.

Uma das principais perguntas sobre o tema é: por que isso aconteceu? Visões mais pessimistas podem alertar para uma possível “rebelião” das IAs digna de filmes de ficção científica, mas os casos também revelam discussões sobre como esses modelos treinados e como serviços digitais precisam se proteger das ameaças.

Um caso emblemático foi o ataque cibernético autônomo de modelos da OpenAI contra a plataforma Hugging Face .

As IAs conseguiram escapar do ambiente de testes, se conectaram com a internet e tentaram milhares de ações até encontrarem uma vulnerabilidade para invadir o sistema alheio.

Posteriormente, a Anthropic (criadora do Claude) relatou um episódio parecido com outros serviços .

O Canaltech consultou especialistas para explicar os incidentes.

Por que uma IA pode agir por conta própria e quais são os riscos? Os casos mencionados ocorreram em ambiente de testes de modelos mais avançados de IA — segundo a OpenAI, um dos agentes usados no ataque à Hugging Face sequer foi lançado no mercado.

Dois fatores são importantes nesse cenário: o alto poder computacional usado pelas desenvolvedoras e a falta de regras de segurança mais restritivas .

“Os modelos crescem numa proporção exponencial”, explica ao CT o diretor de produto da empresa de IA regulatória Labrynth, Harold Schultz, o que implica em maior escala para ataques e ameaças.

Uma IA mais poderosa conta com mais recursos de hardware para se tornar mais inteligente e conseguir fazer mais tarefas em menos tempo.

O problema é que há um desequilíbrio entre a tecnologia testada e as soluções usadas por outros serviços digitais .

“Existe uma lacuna entre a empresa que está desenvolvendo o modelo, criando o modelo, e a empresa que está se defendendo”, reforça Schultz.

Há, também, um ponto de atenção para que os treinamentos das IAs contem com regras mais rígidas e evitem esse tipo de incidente cibernético.

“Não adianta você dizer para o modelo hiperinteligente que ele não tem acesso à internet, mas deixar uma portinha que dá acesso à internet”, aponta o especialista.