Gigantes da IA preparam-se para o pior: e se a tecnologia escapar ao controlo?

As empresas que lideram o desenvolvimento da inteligência artificial (IA) estão a preparar respostas para cenários de crise em que a tecnologia possa contribuir para incidentes com consequências graves para a sociedade.

Entre as hipóteses consideradas estão ciberataques contra instituições financeiras, redes elétricas, sistemas de abastecimento de água e outros serviços essenciais.

A OpenAI e a Anthropic estarão entre as empresas a avaliar formas de reagir a uma eventual ocorrência de grandes dimensões, incluindo a coordenação com autoridades e responsáveis políticos, de acordo com a imprensa norte-americana.

A preparação pretende antecipar os efeitos de um incidente e definir procedimentos para limitar os danos.

A existência destes planos não significa, contudo, que esteja prevista uma catástrofe num horizonte próximo.

Trata-se de uma abordagem preventiva perante riscos que acompanham o desenvolvimento de sistemas cada vez mais capazes e autónomos.

A capacidade da IA para acelerar ciberataques preocupa especialistas Uma das principais preocupações está relacionada com a possibilidade de ferramentas de IA facilitarem determinadas operações de cibercrime.

Os modelos avançados podem ajudar a produzir mensagens fraudulentas mais convincentes, analisar grandes quantidades de informação e identificar vulnerabilidades em sistemas informáticos.

O risco poderá aumentar quando estes modelos recebem autorização para executar tarefas, utilizar ferramentas externas ou aceder a sistemas empresariais.

Uma falha de segurança ou a exploração maliciosa dessas capacidades pode ampliar o impacto de um ataque.

Os dados da indústria de cibersegurança mostram que os ataques informáticos estão a tornar-se mais rápidos.

A CrowdStrike registou um aumento de 442% nas operações de voice phishing , uma modalidade de fraude através de chamadas telefónicas, entre o primeiro e o segundo semestre de 2024.

A empresa identificou ainda um caso em que um intruso demorou apenas 51 segundos a movimentar-se lateralmente numa rede depois de conseguir o acesso inicial.

Estes indicadores não demonstram, por si só, que a inteligência artificial tenha provocado o aumento dos ataques.