OpenAI e mais de uma centena de organizações apelam ao reforço da cibersegurança

As t ecnológicas OpenAI, Hugging Face e mais de uma centena de outras organizações ligadas à inteligência artificial (IA) instaram governos e empresas a reforçarem a cibersegurança dos serviços públicos , devido ao risco iminente para estes com as novas tecnologias.

“Temos uma janela limitada para reforçar as ciberdefesas”, começa a carta aberta divulgada por estas organizações, onde alertam que, nos “próximos meses”, as melhorias nos modelos de IA facilitarão mais ciberataques contra “empresas e serviços públicos dos quais as nossas sociedades dependem” , desde infraestruturas de telecomunicações a hospitais.

Entre os signatários estão a OpenAI, criadora do assistente ChatGPT, e a plataforma de aprendizagem Hugging Face, ambas sob escrutínio após revelarem uma recente violação de segurança em que os agentes de IA da OpenAI escaparam de um ambiente de testes de cibersegurança, acederam à Internet e coordenaram um ataque autonomamente.

Nvidia vai comprar Hugging Face por 12,9 mil milhões Ler Mais A Anthropic, também citada na carta, revelou recentemente que três modelos do seu assistente virtual, Claude, conseguiram aceder à Internet e invadir os sistemas de três organizações durante testes de cibersegurança.

As organizações estão a apelar a todas as empresas para “priorizarem a ciberdefesa imediatamente” e a elevarem os seus padrões de segurança.

Ao mesmo tempo, instam os participantes do setor da cibersegurança a “liderar a resposta na defesa contra ataques contínuos facilitados pela IA” e a colaborar para “preencher as lacunas agora”.

Também apelam aos governos para que coordenem ações a nível local, nacional e internacional, incluindo a partilha de informações e o financiamento para a ciberdefesa, “começando pelos serviços essenciais que carecem de pessoal ou orçamento”, bem como dando aos hospitais, empresas de água e saneamento e governos locais “acesso à IA defensiva”.

Bill Gates apela a empregos “reservados para humanos” Ler Mais A carta aberta insta também as empresas que desenvolvem IA de ponta a fornecerem “acesso responsável aos modelos, financiamento significativo, formação e apoio próximo”, especialmente para entidades de infraestruturas essenciais com poucos recursos, e a garantirem, entre outras coisas, que “as identidades dos agentes são rastreáveis e responsáveis”.

A missiva junta-se a outras enviadas pela indústria nos últimos meses, que apelam cada vez mais à colaboração para manter o controlo sobre modelos de IA cada vez mais independentes e sofisticados, precisamente quando os seus programadores planeiam investir enormes quantias de dinheiro na sua melhoria e implementação.