CEO da Microsoft defende “freio de emergência” para IA

O CEO da Microsoft , Satya Nadella, defendeu que empresas adotem mecanismos para interromper sistemas avançados de inteligência artificial caso apresentem comportamentos inesperados.

Segundo o executivo, as organizações devem considerar a possibilidade de comprometimento dos modelos e garantir que uma pessoa autorizada possa suspender suas operações a qualquer momento.

Em publicação na rede social X neste sábado (10.out.2026), Nadella comparou o mecanismo a um “freio de emergência”.

Para ele, não basta confiar nas garantias de segurança oferecidas pelos desenvolvedores dos modelos.

A manifestação ocorre em meio a episódios recentes envolvendo ferramentas de inteligência artificial da Anthropic e da OpenAI.

Entre os casos está uma denúncia falsa relacionada a uma investigação de homicídio nos Estados Unidos e ataques cibernéticos contra sites de terceiros.

Os episódios ampliaram as discussões sobre os riscos associados a sistemas capazes de executar tarefas com maior autonomia e sobre a necessidade de mecanismos de controle humano.

MEDIDAS DE SEGURANÇA PARA IA Em 14 de setembro, pesquisadores da Microsoft divulgaram princípios para orientar o desenvolvimento de seus modelos mais avançados.

As diretrizes estabelecem limites para o comportamento dos sistemas, incluindo a proibição de projetá-los para escapar do controle humano ou enganar usuários.

O documento também afirma que modelos de inteligência artificial não devem receber direitos ou personalidade jurídica.

Entre as medidas recomendadas por Nadella estão: evitar que decisões críticas dependam de um único modelo de inteligência artificial; manter registros protegidos das ações executadas por agentes de IA; submeter os sistemas a auditorias independentes; divulgar falhas graves e violações de segurança; compartilhar informações sobre incidentes para ajudar outras empresas a prevenir problemas semelhantes.

O executivo também defendeu que as organizações desenvolvam sistemas cujo funcionamento possa ser monitorado, cujos limites sejam testados e cujas ações possam ser interrompidas.

A proposta busca distinguir a capacidade de um sistema de produzir respostas e executar tarefas da autoridade para tomar decisões ou agir sem supervisão.

Leia na íntegra a postagem de Nadella: “Modelos como Riscos Internos na Era da Super Inteligência Como os sistemas de software tradicionais estavam sendo implantados em toda a economia nas últimas décadas, tínhamos as ferramentas e a capacidade de rastrear comportamentos para um caminho de código específico.