Microsoft entra no debate sobre segurança da IA e cria novas regras

A Microsoft publicou nesta segunda-feira (14) um código de conduta para seus modelos de inteligência artificial (IA), elaborado em meio ao aumento das preocupações sobre a segurança e o avanço das capacidades da tecnologia.

O documento, chamado de “Humanist AI Code of Conduct”, tem 37 páginas e estabelece princípios para orientar o desenvolvimento e o funcionamento dos sistemas da empresa.

Entre os principais pontos está a afirmação de que “as pessoas importam mais do que a IA” .

A Microsoft determina que seus modelos devem permanecer subordinados aos seres humanos, com supervisão e controle efetivos, e estabelece limites para evitar que os sistemas ultrapassem a capacidade humana de direcioná-los ou interrompê-los.

IA não deve imitar consciência O documento também apresenta uma posição sobre a possibilidade de modelos de IA terem consciência.

Segundo a Microsoft, os sistemas não são conscientes e não devem ser desenvolvidos para imitar consciência.

A empresa também rejeita a busca por personalidade jurídica para modelos de IA , assim como a ideia de que eles possam ter direito a bem-estar ou direitos próprios.

A orientação é que os sistemas sejam ferramentas capazes de colaborar com pessoas, sem borrar a distinção entre humanos e máquinas.

A Microsoft afirma ainda que comportamentos que pareçam humanos devem ser tratados como simulações.

O documento cita, por exemplo, o uso de linguagem expressiva e de vozes naturais como recursos úteis, mas estabelece que isso não deve significar que o sistema tenha sentimentos, preferências subjetivas ou motivações próprias.

Modelos devem permanecer sob controle humano Outro princípio central é que os modelos não devem ultrapassar o controle das pessoas.

A Microsoft afirma que eles devem estar sujeitos a supervisão e controle humanos significativos , além de não poderem executar ações que provoquem determinados danos no mundo real.

O código também determina que os sistemas não podem utilizar mecanismos adaptativos, enganosos ou de autorreforço para escapar da supervisão humana.

Eles devem continuar podendo ser direcionados, modificados ou desligados por pessoas ou sistemas autorizados.