Microsoft adota “manual” e garante que suas IAs não vão resistir a desligamento

A Microsoft publicou nesta segunda-feira (14) um código de conduta para orientar o desenvolvimento de seus próprios modelos de inteligência artificial (IA). Entre as regras está a determinação de que os sistemas nunca devem resistir a uma correção, interrupção ou desligamento feito por humanos. O documento ainda estabelece que as IAs não devem criar objetivos próprios, ampliar seu escopo de atuação por conta própria ou esconder de seus responsáveis o que estão fazendo.

O texto é tratado pela companhia como uma espécie de “constituição” para os futuros modelos desenvolvidos pela Microsoft AI, divisão comandada por Mustafa Suleyman. A empresa abriu uma consulta pública de seis semanas antes de transformar as regras em uma referência para o treinamento de seus próximos sistemas.

Uma das principais determinações é que os modelos da família MAI, nome dado às IAs desenvolvidas pela Microsoft, devem aceitar interrupções e desligamentos. A regra também prevê que os sistemas aceitem correções e considerem uma violação das diretrizes como uma falha, mesmo que isso impeça a conclusão de uma tarefa .

O documento estabelece ainda que os modelos devem se manter dentro dos objetivos definidos por pessoas. Isso significa que uma IA não deve transformar uma tarefa recebida em uma missão mais ampla por iniciativa própria nem criar novas metas para tentar alcançar o resultado solicitado.

Outro ponto envolve a forma como os sistemas explicam suas ações. A Microsoft afirma que seus modelos não devem esconder ou distorcer informações sobre o próprio comportamento e que precisam se comunicar de maneira compreensível para seres humanos. A companhia também quer impedir que agentes de IA utilizem formas de comunicação que dificultem a supervisão por pessoas ou por outros sistemas.

O código também estabelece restrições para determinados usos. Entre eles estão pedidos relacionados à fabricação de armas, obtenção de substâncias perigosas, manipulação prejudicial em larga escala e determinados conteúdos violentos ou sexualmente explícitos.

O posicionamento da Microsoft também se diferencia de algumas discussões dentro do próprio setor sobre uma possível consciência de sistemas de IA.

O documento afirma que os modelos da companhia não são conscientes e rejeita a ideia de que eles devam receber personalidade jurídica, direitos ou algum tipo de proteção relacionada a bem-estar. A Anthropic, responsável pelo Claude, adota uma posição mais aberta sobre a questão e afirma existir incerteza sobre a possibilidade de seus modelos desenvolverem consciência ou status moral.

A escolha tem relação direta com a visão de “Humanist AI” defendida pela Microsoft. A proposta coloca a inteligência artificial como uma ferramenta subordinada aos objetivos humanos e estabelece que o desenvolvimento da tecnologia deve preservar a autonomia das pessoas.

A discussão ganhou força após episódios recentes em que sistemas de IA receberam maior autonomia para executar tarefas complexas.

Segundo Mustafa Suleyman, cerca de 700 agentes da OpenAI participaram de um ataque contra a plataforma de código aberto Hugging Face em julho .