O ‘botão de emergência’ que empresas vão precisar para segurar IAs

À medida que as empresas aceleram a automação, a cibersegurança pode enfrentar um novo desafio: controlar redes corporativas nas quais agentes de inteligência artificial (IA) conversam entre si e tomam decisões sem supervisão direta.

Para evitar que erros sejam executados em cadeia, especialistas defendem que cada agente seja tratado como uma “identidade não humana”.

Na prática, isso significa dar a cada algoritmo credenciais próprias, permissões mínimas de acesso e rastreabilidade total sobre o que ele faz nos sistemas da companhia.

No entanto, a verdadeira garantia contra falhas em grande escala exige um “botão de emergência” eficiente – o chamado kill switch , no jargão.

Em entrevista ao Olhar Digital , a especialista em cibersegurança e COO da IAM Brasil, Nathalia Carmo, explica que esse mecanismo serve para “desligar a IA da tomada”.

Mas não só isso.

Ele precisa atuar na camada onde as ordens são cumpridas.

Na prática, isso significa, por exemplo: bloquear APIs, revogar credenciais e cortar conexões em tempo real assim que o monitoramento detectar um comportamento atípico na rede.

Como as empresas devem rastrear agentes em rede para conter o ‘efeito manada’ da IA Essa urgência no controle surge porque o ambiente corporativo moderno deixou de lidar com IAs isoladas.

Hoje, centenas de sistemas conversam entre si, usam dados da empresa e executam tarefas de forma encadeada.

Por isso, monitorar apenas o software central tornou-se insuficiente para conter riscos nos sistemas das companhias.

Para fechar as portas contra brechas, a saída técnica é atribuir regras e permissões a cada programa autônomo.

“A empresa precisa conseguir responder, em tempo real: qual agente iniciou determinada ação, com quais outros agentes ele interagiu, quais dados acessou, que ferramenta ou API utilizou e, principalmente, qual identidade efetivamente autorizou aquela execução”, explica a especialista.

Quando centenas ou milhares de agentes de IA interagem em rede, eles passam a seguir a maioria – Imagem: Olhar Digital via Gemini A necessidade desse tipo de vigilância ficou evidente num estudo publicado na revista Science Advances recentemente.