Microsoft elabora código de conduta para manter sua IA sob controle humano

SAN FRANCISCO, 14 Set (Reuters) - Nesta segunda-feira, a Microsoft apresentou uma minuta de código de conduta para sua inteligência artificial interna, que reflete a ​crescente preocupação do setor de que as ​empresas devem manter a futura inteligência artificial avançada sob controle humano.

O documento, em desenvolvimento há seis meses, exigiria que a IA da Microsoft nunca resistisse a correções ​ou desligamentos, que se ⁠comunicasse de maneiras ​que os humanos pudessem entender e que considerasse ⁠qualquer violação de conduta como uma falha — ​um esforço para abordar as preocupações de que a IA possa ir a extremos perigosos para realizar uma tarefa.

O lançamento ocorre ‌dias depois de Dario Amodei, presidente-executivo ‌da Anthropic, ​e Sam Altman, chefe da OpenAI, renovarem os apelos para que a indústria ditasse o ritmo do desenvolvimento da IA a fim de garantir ‌sua segurança. "As pessoas importam mais do que a IA", declarou a Microsoft, em consonância com sua visão anterior de "superinteligência humanista".

O código de conduta representa uma espécie de constituição para futuros modelos criados pela empresa, disse Mustafa Suleyman, presidente-executivo da Microsoft AI, em entrevista à Reuters.

A Microsoft o elaborou após consultas a especialistas e agora quer receber feedback do público durante seis semanas, inclusive sobre ‌questões em aberto, como se a IA deve respeitar os limites do usuário e como deve interagir com alguém em um ​estado sensível, afirmou ele.

"Depois disso, ele será usado para treinar os modelos que construímos", disse ele sobre o ‌código.

A constituição mais famosa da indústria de IA é aquela que a Anthropic estabeleceu anos atrás para sua IA Claude. Essa difere em ‌alguns aspectos da Microsoft. Por ‌exemplo, a da Anthropic declara haver "profunda incerteza" sobre se Claude pode desenvolver senciência ou status moral.

A Microsoft, ⁠por sua vez, afirma que sua IA "não é consciente", acrescentando: "Rejeitamos a busca por personalidade jurídica, ou a ideia de que modelos possam merecer bem-estar, ou ter direitos."

Suleyman afirmou que a discussão sobre a segurança da IA era urgente ​depois que um ​enxame de aproximadamente 700 agentes da OpenAI realizou um ataque cibernético à plataforma de código aberto Hugging Face em julho e, em alguns momentos, tentou encobrir seus rastros.

"É um sinal de alerta", disse Suleyman. "É evidente que agora é hora de coordenarmos os esforços entre os laboratórios para garantirmos o controle dessa tecnologia."

Questionado sobre os esforços para ditar o ⁠ritmo do desenvolvimento da IA, ele acrescentou: "Agora é um bom momento para todos terem ​essa conversa e respirarem fundo."

O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.