Presidente da Microsoft pede por um "freio de emergência" nas IAs

Satya Nadella, CEO da Microsoft , defendeu no sábado (10) a criação de mecanismos para conter modelos avançados de inteligência artificial .

Em uma publicação no X, ele afirmou que empresas devem tratar esses sistemas como potencialmente comprometidos desde o início.

A proposta inclui permitir que uma pessoa autorizada pause ou desligue um modelo enquanto ele executa uma tarefa.

Nadella chamou o recurso de “freio de emergência” e argumentou que controles desse tipo podem reduzir os riscos de sistemas autônomos agirem sem supervisão adequada.

Além de pedir por um freio de emergência na IA, o executivo da Microsoft também criticou o tratamento da IA como uma “caixa-preta”: um sistema cujas recomendações e ações são aceitas ou rejeitadas sem transparência sobre seu funcionamento.

Para mudar esse cenário, ele sugeriu separar o modelo dos mecanismos que coordenam suas tarefas e manter as proteções sob controle externo.

Clique aqui para ler mais