É possível parar uma IA ‘desobediente’? Veja 3 questões por trás da segurança da tecnologia

É possível parar uma inteligência artificial ? Tecnicamente, uma IA pode ser interrompida, enquanto estiver em um ambiente controlado.

Mas quanto mais essa tecnologia atua de forma autônoma em vários sistemas, mais complexo se torna o bloqueio, alertam os especialistas.

A pergunta parece cada vez mais pertinente, levando-se em conta que se multiplicam os incidentes de segurança relacionados com a IA e os temores sobre os riscos desta tecnologia — incluindo uma hipotética revolução das máquinas, vista, até o momento, só na ficção científica.

Confira, a seguir, três questões importantes sobre a segurança desses sistemas.

Existe um ‘botão de emergência’? No campo da cibersegurança, um botão de desligamento de emergência, ou “kill switch”, como é chamado em inglês, é um sistema capaz designa “a capacidade de interromper a ação de um agente de IA” — um programa construído sobre um modelo de IA generativa capaz de encadear, sozinho, uma série de tarefas —, explica à AFP Nicolas Papernot, professor na Universidade de Toronto e especialista em segurança informática e IA.

Esse mecanismo seria acionado no caso de uma IA escapar a qualquer controle e representar um risco para a segurança.

Uma IA continua sendo um “programa informático”, ressalta o pesquisador.

“A pessoa ou a organização que a criou pode interrompê-la, negando a ela o acesso à potência de cálculo necessária para sua execução”, acrescenta.

A situação se complica quando se autoriza ao programa agir para além de seu ambiente inicial.

Segundo Papernot, isso pode acontecer se um programa malicioso controlado pela IA se propagar utilizando os recursos de outros dispositivos para se duplicar.

“Nesse caso, seria preciso interromper simultaneamente todas as cópias geradas, aparelho por aparelho”, explica.

Continua após a publicidade Para Jean-Gabriel Ganascia, professor de informática na Universidade Sorbonne, a questão do ‘kill switch’ pode alimentar a ideia de “um risco metafísico” com uma IA que teria vontade própria.

Mas para ele, o perigo mais concreto é a nossa crescente dependência desses sistemas.

É realmente possível desligar uma IA? Para Thierry Poibeau, diretor de pesquisas no Centro Nacional de Pesquisas Científicas da França (CNRS) e especialista em IA, a imagem de um único botão que permitiria “desligar a IA” é enganosa.