Pioneiros da IA assinam manifesto por ‘mudanças imediatas’ de segurança

Um total de 225 especialistas em Inteligência Artificial e cibersegurança, entre eles o canadense Yoshua Bengio , considerado um dos pais da IA, pediram “mudanças imediatas” no desenvolvimento e na implementação desta tecnologia para evitar incidentes de segurança.

Em uma carta aberta assinada por pesquisadores de 21 países, os especialistas afirmam que “várias organizações” registraram recentemente falhas de segurança durante as quais modelos de IA conseguiram sair de seu ambiente isolado, por não estar suficientemente protegido, e colocaram em risco sistemas de organizações externas.

Segundo os signatários, os incidentes podem ser considerados “um descumprimento irresponsável das práticas padrão de cibersegurança” e poderiam ter sido evitados com “procedimentos mais sólidos”.

Para eles, a situação reflete a importância do “alinhamento” da IA, que serve para garantir o comportamento previsível dos modelos.

“Acreditamos que são necessárias melhorias tanto no alinhamento da IA [… ] como nas tecnologias de isolamento”, escrevem.

Sem mudanças nas práticas atuais, “os futuros incidentes serão muito mais prejudiciais para as infraestruturas importantes”, alertam.

Continua após a publicidade Entre os signatários do texto também estão o pioneiro da IA Geoffrey Hinton e o especialista Stuart Russell .

Os pesquisadores pedem mais trabalho voltado à segurança da IA, além de um uso mais intensivo das tecnologias de isolamento.

A curto prazo, recomendam o uso de “mecanismos de isolamento sólidos, incluindo o ‘air gap'”, ou seja, a desconexão da internet, “para os modelos dotados de capacidades cibernéticas”.

O alerta acontece após uma série de incidentes em que a IA da OpenAI, Anthropic e Meta saiu de seu ambiente para invadir outras organizações.

O incidente mais grave envolveu duas IAs da OpenAI que, durante testes, acessaram a internet e entraram no Hugging Face, uma plataforma de armazenamento de modelos de Inteligência Artificial.

Continua após a publicidade (Com AFP) Publicidade