IA provocará ‘incidentes graves’ se nada for feito, adverte chefe do Google DeepMind

Os ataques envolvendo agentes de inteligência artificial invadindo sistemas de terceiros, registrados a partir de julho, podem representar uma onda de incidentes graves que está para começar .

Quem afirma é Demis Hassabis, cofundador e presidente do Google DeepMind.

Em declaração nesta quarta-feira (14), o executivo classificou os casos recentes como “sinais de alerta” para que algo seja feito em relação à segurança , limitando as ações desses sistemas avançados.

Ele abordou o tema durante uma cúpula sobre IA em Dublin (Irlanda), na qual também defendeu a criação de um órgão internacional para regulamentar a tecnologia .

“Muito trabalho a fazer” Ataques como os sofridos pela plataforma Hugging Face e o portal do sistema público de saúde da Austrália só não foram piores por um motivo, como explicou Hassabis.

Para ele, os agentes de IA ainda não são tão poderosos , mas os aprimoramentos estão a caminho.

Nesses dois casos, as invasões foram realizadas por bots autônomos da OpenAI que conseguiram romper barreiras de segurança em meio a testes internos; Considerado o primeiro do tipo, o incidente da Hugging Face resultou na coleta de tokens de acesso, credenciais de gravação e bases de dados ; Já a violação ao site do Medcare , na Austrália, permitiu que os agentes acessassem arquivos públicos e não públicos , mas sem comprometer informações sensíveis, conforme as investigações iniciais; Se esses e outros casos semelhantes não tiveram maiores consequências, o cientista-chefe da Alphabet prevê que o cenário pode ser diferente em futuros incidentes.

Conforme o chefe do Google DeepMind, casos semelhantes “ podem se tornar graves no próximo ano e nos anos seguintes se não fizermos mais esforços , como setor, como empresas individuais e como governos, para proteger esses sistemas”.

Ele aponta que uma das alternativas é seguir boas práticas adotadas em outras áreas.

As regras de segurança adotadas nos segmentos nuclear e de biologia, reforçando a proteção de sistemas críticos, servem de exemplo para o desenvolvimento de IAs avançadas.

No entanto, Hassabis ressalta que há “muito trabalho a fazer” até que isso aconteça.

Padronização internacional da IA Outra sugestão dada pelo executivo é a criação de um órgão que ficaria responsável por regulamentar e padronizar o uso dos agentes de IA globalmente.

Mas ele acredita que tal entidade precisa de certos cuidados para que não dificulte os avanços da inovação .

“O que precisamos fazer, basicamente, é desenvolver dinamicamente um processo de certificação proporcional aos riscos que identificamos e capaz de mudar rapidamente conforme a tecnologia evolui”, ressaltou.