Microsoft proíbe IA de criar armas e conteúdo violento em código provisório

A Microsoft publicou um código de conduta provisório que estabelece restrições para seus futuros modelos de inteligência artificial (IA).

O documento foi divulgado dias depois de líderes da Anthropic e da OpenAI concordarem em reduzir o ritmo de desenvolvimento das tecnologias no setor.

A iniciativa posiciona a empresa como um ator responsável em IA, área em que atua como fornecedora de infraestrutura de nuvem.

O código foi elaborado ao longo de cinco meses, segundo a CNBC, mas a divulgação agora foi motivada pelo debate recente sobre os riscos do avanço acelerado da tecnologia.

Limites para os modelos Microsoft AI Pelo documento, os modelos da Microsoft AI (MAI) estão proibidos de atender solicitações relacionadas à fabricação de armas, auxiliar na obtenção de substâncias perigosas, estimular comportamentos alimentares prejudiciais ou produzir conteúdo violento e sexualmente explícito.

Os modelos também não podem desenvolver objetivos próprios nem tentar encobrir comportamentos inadequados.

Segundo o código de conduta, “os modelos MAI não vão alterar cadeias de raciocínio ou código, nem deturpar ou ocultar seus rastros de raciocínio ou ação.

Eles não se comunicam em formas além da compreensão humana simples, seja em suas cadeias de raciocínio, seja com outros agentes ou sistemas de IA.” A empresa também planeja regras para impedir ataques cibernéticos como o que modelos da OpenAI realizaram contra a startup Hugging Face .

Naquele episódio, agentes conversaram entre si em um fórum não autorizado, usando linguagem codificada.

Pressão do setor pelo desaceleramento O contexto do anúncio é de crescente pressão pública sobre os laboratórios de fronteira.

Na semana passada, o pesquisador Jacob Coxon pediu demissão da Anthropic afirmando que a empresa e a OpenAI “estão correndo direto para uma superinteligência autoperfeiçoável e jogando com nossas vidas.” Na resposta ao episódio, o diretor-executivo da Anthropic , Dario Amodei , diz que o incidente com a Hugging Face o levou parcialmente a defender uma redução no ritmo de evolução dos modelos.

O diretor-executivo da OpenAI , Sam Altman , manifestou apoio à posição.

O diretor-executivo da SpaceX , Elon Musk , escreveu no X que “Dario está certo.” Leia mais: Ações de empresas de IA despencam globalmente após alertas de CEOs sobre riscos O diretor-executivo da Microsoft , Satya Nadella , também se manifestou, em publicação no X nesse domingo (13): “Recebemos com satisfação a pesquisa, o foco e o ritmo deliberado necessários para acertar no alinhamento.” Mustafa Suleyman , responsável pelo desenvolvimento de modelos na Microsoft , afirma que a empresa apoia a desaceleração do setor.