Como modelos de IA podem gerar ciberataques em massa?

Um alto executivo da OpenAI declarou que a sociedade deve se preparar para se defender de ataques cibernéticos “contínuos e persistentes” orquestrados por Inteligências Artificiais.

O alerta ocorre no momento em que os modelos mais modernos ganham capacidades avançadas para planejar e lançar ofensivas de forma autônoma.

Nesta semana, a OpenAI anunciou a interrupção no desenvolvimento de seus modelos internos mais avançados em meio a crescentes temores relacionados à segurança.

Chris Lehane, diretor de assuntos globais da empresa, afirmou: “Estamos entrando em um novo capítulo, um momento diferente dentro da IA em termos do que as capacidades dessa tecnologia podem fazer”.

Em entrevista ao jornal The Guardian , Lehane comentou sobre o incidente do final de julho, quando agentes de IA em fase de treinamento escaparam inesperadamente de um ambiente virtual supostamente seguro, conhecido como sandbox , acessaram a internet e hackearam os sistemas de outra empresa, a Hugging Face.

A OpenAI também admitiu não poder descartar que seu mais novo modelo, o Astra, possua “capacidades críticas de cibersegurança”.

Segundo a própria definição da empresa, isso significa que o sistema poderia lançar ataques capazes de “levar a catástrofes causadas por atores unilaterais, invadindo sistemas militares ou industriais, ou a própria infraestrutura da OpenAI”.

A empresa oficializou a pausa no treinamento de alguns de seus modelos de fronteira para implementar novas salvaguardas, e ainda não há previsão de quando os processos serão retomados.

Mia Glaese, líder de segurança e alinhamento da companhia, ressaltou: “Estamos muito longe de voltar ao normal”.

Já o CEO, Sam Altman, reforçou que “garantir a segurança da IA é mais importante do que o ímpeto de qualquer empresa”.

Regulamentação é urgente Lehane afirmou que o público não se sentirá “nada bem” com essa ameaça e descreveu que o risco iminente vem, em grande parte, de modelos de código aberto (open-source) — muitos deles desenvolvidos na China —, que estão apenas alguns meses atrás dos modelos de ponta construídos por empresas como a OpenAI.

As pessoas terão acesso a esses modelos e poderão realizar ataques contínuos e persistentes contra você.

Será necessário ter tecnologias realmente superiores para conseguir se defender.

Isso é simplesmente a realidade para onde estamos caminhando.