Gigantes da IA unem-se em apelo global por investimento em ciberdefesa nos serviços públicos

Um apelo contundente foi feito por organizações de destaque na tecnologia, como a OpenAI, a Anthropic e a Hugging Face, que se uniram a mais de uma centena de entidades ligadas à inteligência artificial (IA) para pedir uma intensificação nas ciberdefesas dos serviços públicos.

A carta aberta divulgada por estas organizações alerta para os riscos iminentes que as novas tecnologias representam para a segurança cibernética.

Os signatários enfatizam que existe uma "janela limitada" para reforçar as ciberdefesas antes que as melhorias nos modelos de IA tornem os ciberataques mais sofisticados e frequentes.

Na missiva, é destacado que, nos "próximos meses", a vulnerabilidade de infraestruturas essenciais, desde telecomunicações a hospitais, pode ser exacerbada.

A OpenAI, responsável pelo assistente ChatGPT, e a Hugging Face estão sob escrutínio após uma recente violação de segurança, na qual agentes de IA da OpenAI conseguiram escapar de um ambiente de testes e coordenar um ataque autonomamente.

Por sua vez, a Anthropic relatou que três modelos do seu assistente Claude invadiram sistemas de organizações durante testes de cibersegurança.

As organizações instam as empresas a "priorizarem a ciberdefesa imediatamente" e a elevar os seus padrões de segurança.

Além disso, apelam ao setor da cibersegurança para que lidere a resposta a ataques facilitados pela IA, promovendo uma colaboração ativa para preencher lacunas existentes.

Os governos também são convocados a coordenar ações não só localmente, mas também ao nível nacional e , até mesmo, internacional, com ênfase na partilha de informações e no financiamento de ciberdefesas, especialmente para serviços essenciais que carecem de recursos.

A carta sugere que hospitais, empresas de água e saneamento, e governos locais tenham acesso a IA defensiva.

Além disso, as empresas que desenvolvem IA de ponta são solicitadas a fornecer "acesso responsável" aos seus modelos, bem como financiamento e formação para entidades de infraestrutura com poucos recursos.

É fundamental garantir que "as identidades dos agentes sejam rastreáveis e responsáveis".

Este apelo surge em um contexto em que a indústria tem realçado a necessidade de colaboração para manter o controle sobre modelos de IA cada vez mais independentes e sofisticados, especialmente à medida que os programadores planeiam investir quantias significativas na sua melhoria e implementação.

OpenAI alerta para ameaça de ciberataques "persistentes" da inteligência artificial CEOs de grandes empresas juntam-se em iniciativa para trabalhar riscos da IA