Microsoft elabora código de conduta para manter sua IA sob controle humano
SAN FRANCISCO, 14 Set (Reuters) – Nesta segunda-feira, a Microsoft ( MSFT34 ) apresentou uma minuta de código de conduta para sua inteligência artificial interna, que reflete a crescente preocupação do setor de que as empresas devem manter a futura inteligência artificial avançada sob controle humano.
O documento, em desenvolvimento há seis meses, exigiria que a IA da Microsoft nunca resistisse a correções ou desligamentos, que se comunicasse de maneiras que os humanos pudessem entender e que considerasse qualquer violação de conduta como uma falha — um esforço para abordar as preocupações de que a IA possa ir a extremos perigosos para realizar uma tarefa.
Leia também: Até que ponto os alertas sobre inteligência artificial podem impactar os mercados? O lançamento ocorre dias depois de Dario Amodei, presidente-executivo da Anthropic, e Sam Altman, chefe da OpenAI, renovarem os apelos para que a indústria ditasse o ritmo do desenvolvimento da IA a fim de garantir sua segurança . ‘As pessoas importam mais do que a IA’, declarou a Microsoft, em consonância com sua visão anterior de ‘superinteligência humanista’.
O código de conduta representa uma espécie de constituição para futuros modelos criados pela empresa, disse Mustafa Suleyman, presidente-executivo da Microsoft AI, em entrevista à Reuters.
A Microsoft o elaborou após consultas a especialistas e agora quer receber feedback do público durante seis semanas, inclusive sobre questões em aberto, como se a IA deve respeitar os limites do usuário e como deve interagir com alguém em um estado sensível, afirmou ele. ‘Depois disso, ele será usado para treinar os modelos que construímos’, disse ele sobre o código.
Leia também Startups: IA pode movimentar US$ 4,7 trilhões em lucros corporativos até 2035 Estudo da Bain & Company mostra que tecnologia deve transformar 71% dos setores, com impacto superior ao da internet Ibovespa fecha em queda, com exterior, IA e eleições em foco; Vale despenca 3% Índices em NY recuaram com desaceleração de IA altas nos Treasuries A constituição mais famosa da indústria de IA é aquela que a Anthropic estabeleceu anos atrás para sua IA Claude.
Essa difere em alguns aspectos da Microsoft.
Por exemplo, a da Anthropic declara haver ‘profunda incerteza’ sobre se Claude pode desenvolver senciência ou status moral.
Resumo agregado pelo 5News a partir do feed público do veículo. A matéria completa, com todo o contexto, está em www.infomoney.com.br — o conteúdo pertence a InfoMoney.
