CEO da Microsoft defende “freio de emergência” para IA

O CEO e presidente do conselho da Microsoft, Satya Nadella, publicou no sábado (10) um artigo defendendo a criação de um “freio de emergência” para a inteligência artificial e que as empresas precisam de mecanismos de segurança mais robustos para a tecnologia.

O texto foi publicado na conta do X (antigo Twitter) do executivo.

As declaração vêm após líderes de desenvolvedoras como OpenAI e Anthropic terem se manifestado em prol de uma desaceleração no desenvolvimento da IA.

Segundo Nadella, que comanda a Microsoft desde 2014, à medida que sistemas avançados são implementados em larga escala, as ações da tecnologia não correspondem ao que elas foram treinadas para fazer.

Leia Mais Bill Gates defende "proteção" contra IA e diz que autorregulação não basta Líderes de IA assinam acordo de autorregulação após encontro na Casa Branca Análise: Trump tomou decisão sobre IA; humanidade pode depender disso Ele ainda escreveu que, mesmo nesse cenário, as pessoas seguem adotando modelos complexos e autônomos, inclusive dando acesso a dados confidenciais e permitindo que esses modelos realizem ações em nosso nome.

Nadella defendeu que “é hora de dar uma passo atrás” e reavaliar como a tecnologia opera.

“Simplesmente não podemos terceirizar a responsabilidade pelo que a inteligência faz em nosso nome.

As garantias de um fornecedor de modelos não nos isentam dessa responsabilidade”.

Entre as propostas para assegurar a segurança, o executivo propôs um “freio de emergência”.

Nesse caso, uma pessoa pode ser capaz de intervir e pausar ou desligar o que o modelo está fazendo.

CEO da Microsoft pediu mais segurança No artigo, Nadella escreveu que não podemos tratar a inteligência artificial como uma “caixa preta”, simplesmente aceitando os resultados entregues, sem conseguir observar como os modelos chegaram a tal resultado.

Para isso, ele pede medidas de segurança mais robustas para monitorar a IA, incluindo tratar modelos como “riscos internos”.

“Não porque eles sejam necessariamente maliciosos, mas porque qualquer agente suficientemente capaz, com acesso a sistemas importantes, pode cometer erros ou ser comprometido”.

O CEO defende que as empresas não devem depender apenas das garantias dadas pelos desenvolvedoras de IA, e precisam ter uma separação entre o modelo e a estrutura responsável pela execução dele.