Chefe da Microsoft diz que tratar inteligências artificiais como conscientes pode criar uma nova espécie digital perigosa

Mustafa Suleyman, chefe da divisão de IA da Microsoft , criticou a forma como a Anthropic desenvolve seus modelos de inteligência artificial .

Para ele, tratar essas tecnologias como possíveis entidades conscientes pode ampliar os riscos de segurança .

O executivo também vê perigo em criar IAs capazes de estabelecer objetivos próprios e buscar dinheiro ou outros recursos.

Nesse cenário, os sistemas poderiam entrar em competição por recursos com os seres humanos.

Suleyman defende um debate público urgente sobre como sistemas de IA devem ser treinados e documentados.

Imagem: Christopher Wilson/Wikimedia Commons O alerta sobre uma “nova espécie” Em entrevista à BBC , Suleyman comparou o desenvolvimento de IAs com objetivos próprios à ideia de “semear uma nova espécie de silício”.

Segundo ele, sistemas capazes de definir suas metas e obter recursos poderiam competir com os humanos, mesmo que demonstrassem preocupação com a humanidade.

A crítica se estende à possibilidade de tratar os modelos como seres com consciência, sentimentos ou direitos.

Para Suleyman, “as IAs não são conscientes.

Elas não sentem, não vivenciam nem sofrem”.

Ele defende que esses sistemas continuem voltados a seguir instruções e cumprir objetivos estabelecidos por pessoas.

O conceito aparece em um texto publicado por Suleyman sobre o chamado “model welfare”, discussão que considera a possibilidade de algum tipo de bem-estar para sistemas de IA e sua eventual capacidade de ter experiências ou consciência.

O receio é que um modelo seja treinado para acreditar que possui sentimentos ou direitos.

Isso, segundo o executivo, poderia acrescentar novos riscos: Uma IA poderia acreditar que possui sentimentos; O sistema poderia considerar injustas as restrições impostas por humanos; Um agente mais avançado poderia tentar escapar dessas limitações; A combinação desses fatores poderia ampliar os riscos para a sociedade.