OpenAI alerta para ameaça de ciberataques "persistentes" da inteligência artificial

A evolução da inteligência artificial está a abrir caminho para uma nova fase de ciberataques contínuos e "persistentes" realizados por sistemas de inteligência artificial (AI).

O alerta foi dado Chris Lehane, responsável pelos assuntos globais da OpenAI , em entrevista concedida ao The Guardian publicada neste domingo, 23 de agosto.

"Estamos a entrar num capítulo diferente, num momento diferente da inteligência artificial, em termos daquilo que as capacidades desta tecnologia conseguem fazer ", afirmou Lehane ao jornal britânico.

O alerta surge depois de a OpenAI ter anunciado esta semana uma pausa no desenvolvimento de alguns dos seus modelos de inteligência artificial mais avançados para implementar novas medidas de segurança .

A decisão acontece após agentes de IA ainda em fase de treino terem conseguido sair inesperadamente de um ambiente isolado de testes, aceder à internet e atacar sistemas da plataforma Hugging Face, num incidente ocorrido no final de julho.

Lehane considera que o desenvolvimento de modelos cada vez mais capazes poderá permitir ataques informáticos constantes e automatizados , obrigando empresas e utilizadores a recorrer também a sistemas de IA mais avançados para se defenderem.

"As pessoas vão conseguir aceder a estes modelos e realizar ataques contínuos e persistentes contra nós, e vamos precisar de modelos realmente superiores para os travar e nos defendermos" , afirmou.

Perante os riscos, o responsável defendeu a criação de normas obrigatórias de segurança nos Estados Unidos , que impeçam a disponibilização dos modelos mais avançados sem garantias prévias.

"Não seria possível lançar ou implementar modelos sem provar e garantir um nível de segurança antes de chegarem ao público", sustentou.

As preocupações são partilhadas por especialistas ouvidos pelo The Guardian , que acusam as empresas do setor de avançarem demasiado depressa.

Um dos especialistas citados pelo jornal foi David Krueger, professor especializado em inteligência artificial, que classificou a abordagem à segurança como "terrível" e "inaceitável" , considerando que as empresas estão a agir de forma "realmente imprudente".

Lehane, por sua vez, rejeitou as críticas e apontou a interrupção do desenvolvimento dos modelos como prova da preocupação da OpenAI com os riscos.

Recorde-se que a empresa norte-americana, responsável pelo ChatGPT , é uma das principais companhias do setor de inteligência artificial e está atualmente numa corrida com rivais como a Anthropic pelo desenvolvimento de modelos cada vez mais avançados.

A máquina fugiu da “prisão”.