Nova era de ameaças: OpenAI alerta para ciberataques contínuos gerados por IA

Ataques cibernéticos contínuos feitos por IA devem acontecer com frequência nos próximos meses.

A previsão pessimista é do diretor de assuntos globais da OpenAI, Chris Lehane, em entrevista ao jornal The Guardian.

Lehane mencionou que isso é “um novo capítulo” na era da IA, impulsionado por recentes ataques autônomos feitos por modelos da própria OpenAI e da Anthropic contra sistemas externos.

Recentemente, a criadora do ChatGPT limitou o treinamento de modelos mais avançados de IA .

Além de pausar o avanço em algumas áreas do desenvolvimento, a empresa vai ampliar mecanismos de vigilância e sistemas de proteção para monitorar comportamentos perigosos da tecnologia.

O caso mais emblemático de ataque feito por IA envolveu ferramentas da OpenAI e a plataforma Hugging Face : os modelos conseguiram escapar do ambiente de testes, se conectaram com a internet e tentaram diversas ações malignas até encontrar uma vulnerabilidade para invadir o sistema.

Executivo alfineta modelos de código aberto Lehane apontou que um dos principais riscos dos ataques feitos por IA é o acesso aos modelos de código aberto .

“As pessoas terão acesso aos modelos open source e poderão fazer ataques contínuos e persistentes contra você, e você precisará ter modelos realmente superiores para evitá-los e proteger”, comentou.

Vale reforçar que a OpenAI tem modelos abertos, mas as soluções mais avançadas são proprietárias e não possuem a documentação aberta ao público.

Alguns dos modelos abertos mais populares do mercado são de empresas chinesas , o que também indica uma crítica à guerra comercial no mercado.

Entenda por que as IAs conseguem fazer ataques hackers por conta própria . {{WHATSAPP_CHANNEL}}