Após polêmica sobre IA, Microsoft divulga 'código de conduta'

A Microsoft apresentou nesta segunda-feira (14) um projeto de código de conduta para sua inteligência artificial (IA), em resposta à polêmica sobre o "risco de extinção da humanidade". Essa possibilidade foi citada na quarta-feira passada (9) pelo ex-funcionário da Anthropic e da OpenAI Jacob Coxon, viralizou nas redes sociais e gerou grande repercussão na imprensa mundial.

De acordo com a empresa, a elaboração do documento levou entre cinco e seis meses. O texto determina que a IA da Microsoft jamais deve se opor a correções ou ao seu desligamento, e que sua comunicação com os humanos deve ser compreensível. Qualquer violação desse código de conduta será considerada uma falha.

A iniciativa é uma resposta aos temores de que uma IA avançada possa recorrer a métodos extremos para cumprir uma tarefa. A publicação do código ocorre poucos dias depois de Dario Amodei, CEO da Anthropic, e Sam Altman, diretor da OpenAI, defenderem uma desaceleração do desenvolvimento da IA para garantir sua segurança.

Segundo Mustafa Suleyman, diretor-executivo da Microsoft AI, o código representa uma espécie de constituição para os futuros modelos desenvolvidos pela empresa.

A companhia elaborou o texto após consultar especialistas e agora pretende recolher comentários e contribuições do público durante seis semanas, especialmente sobre temas como o respeito aos limites definidos pelos usuários e as interações entre a IA e pessoas em situação de vulnerabilidade, explicou Suleyman.

O documento sobre as regras de utilização da IA mais conhecida do setor é a criada pela Anthropic para sua IA Claude há alguns anos. Em alguns aspectos, ela difere da proposta da Microsoft. A Anthropic afirma que "há incertezas" sobre a possibilidade de Claude desenvolver consciência ou adquirir status moral.

A Microsoft defende que sua IA "não é consciente". "Rejeitamos a busca por personalidade jurídica ou a ideia de que os modelos possam merecer proteção social ou ser titulares de direitos."

Mustafa Suleyman afirmou que o debate sobre segurança se tornou urgente após a OpenAI revelar, em julho, que cerca de 700 de seus agentes de IA invadiram a plataforma Hugging Face durante um teste e, em alguns casos, tentaram apagar os rastros da ação. "Este é o momento certo para todos terem essa discussão e darem um passo para trás", disse, ao ser questionado sobre as iniciativas para moderar o ritmo de desenvolvimento da IA.

O Alto Comissário da ONU para os Direitos Humanos pediu nesta segunda-feira uma "ação urgente" para regulamentar a inteligência artificial (IA), diante dos "riscos sem precedentes" representados pelos sistemas mais avançados.