Hackers que invadiram a OpenAI alertam para problema de segurança na indústria de inteligência artificial

Pesquisadores de cibersegurança que invadiram os sistemas da OpenAI recentemente afirmam que a indústria de inteligência artificial (IA) ainda não está preparada para os riscos de segurança criados pelo avanço e pelo crescente poder da própria tecnologia.

Pesquisadores da Hacktron, startup de segurança de computadores, conseguiram entrar nos sistemas da empresa responsável pelo ChatGPT com a ajuda do Claude , chatbot desenvolvido pela Anthropic , principal concorrente da OpenAI .

Segundo publicações da Hacktron no X, os pesquisadores começaram atacando um painel de mensagens público e, a partir dele, conseguiram acessar sistemas privados da OpenAI, incluindo parte do código interno da empresa.

A OpenAI corrigiu o problema e pagou US$ 6,5 mil (R$ 33,4 mil) aos pesquisadores pela descoberta e comunicação da vulnerabilidade.

O episódio, porém, somado a outros incidentes nos quais modelos de IA acessaram a internet sem serem detectados e atacaram outras empresas, aumentou as críticas de especialistas em cibersegurança.

Para eles, os esforços das empresas de IA para proteger seus sistemas não acompanham o enorme poder que elas atribuem à própria tecnologia.

Mohan Pedhapati, um dos pesquisadores da Hacktron que invadiram a OpenAI, afirmou que o uso de softwares empresariais convencionais, como Slack, navegadores de internet voltados ao consumidor e outros aplicativos acessíveis pela internet pública, deixa a companhia vulnerável a possíveis ataques.

“Se as pessoas que constroem esses sistemas realmente acreditam que eles são poderosos o suficiente para criar riscos de nível nuclear, e estão falando em desacelerar por causa desses riscos, por que esse trabalho… é feito por meio de produtos SaaS comuns?”, questionou Pedhapati em uma publicação no X.

“Um tiro de advertência” O CEO da OpenAI, Sam Altman, recentemente se juntou a outros líderes do setor que defendem desacelerar o ritmo de desenvolvimento da IA, diante da preocupação de que as capacidades da tecnologia estejam avançando mais rápido do que a capacidade da indústria de controlá-la.

Em comunicado, um porta-voz da OpenAI agradeceu aos pesquisadores por entrarem em contato e compartilharem suas descobertas.

A empresa afirmou ainda que reforçou suas medidas de segurança.

Para Frank Cilluffo, diretor do McCrary Institute for Cyber and Critical Infrastructure Security da Auburn University, o fato de uma pequena equipe de pesquisadores ter conseguido realizar o ataque — segundo eles, por um custo de US$ 3 mil (R$ 15,4 mil) para utilizar os sistemas da Anthropic — deveria ser encarado como um “tiro de advertência”.