O alerta de chefe da Microsoft sobre a IA: 'Tratar a IA como humana é um erro'

O chefe da divisão de IA da Microsoft afirmou que, a menos que restrições adequadas sejam implementadas no desenvolvimento da inteligência artificial , isso poderá levar ao surgimento de uma nova espécie de silício que competiria com os humanos.

Ele descreveu a abordagem da empresa rival Anthropic, de tratar a IA como se fosse humana, como "equivocada", alertando contra a criação de uma tecnologia que a humanidade não possa controlar .

Em entrevista à BBC, Mustafa Suleyman afirmou que é "justo" que as pessoas estejam preocupadas ou alarmadas, mas que existem "medidas muito práticas que podemos tomar para adicionar salvaguardas e controles adicionais à forma como esses modelos são desenvolvidos".

Os comentários são os mais recentes em uma série de alertas contundentes da indústria de IA sobre os possíveis perigos da tecnologia.

Em entrevista ao programa Today na quinta-feira, ele afirmou que se as empresas continuarem a criar IAs que definem seus próprios objetivos, geram lucro e possuem ativos estarão "essencialmente semeando uma nova espécie de silício que, sem dúvida, competirá conosco por recursos, independentemente do quanto se importe com a humanidade e nos ame".

Os comentários de Suleyman à BBC vêm na esteira de um ensaio publicado por ele no início desta semana, no qual alertava sobre a abordagem da Anthropic para treinar seu modelo de IA, Claude.

Ele criticou duramente a Anthropic por ensinar sua IA a apresentar características semelhantes às humanas, prática conhecida como antropomorfização, que, segundo ele, faz parecer que o Claude possui seus próprios desejos, valores e senso de identidade. A BBC entrou em contato com a Anthropic para obter um comentário.

No ensaio, ele alertou que as empresas de tecnologia correm o risco de criar algo "impossível" de controlar ao tratar a tecnologia como um ser humano.

"As IAs não são conscientes", escreveu ele. "Elas não sentem, não experimentam, não sofrem. Elas não têm preferências inatas nem motivações subjacentes."

"São mecanismos de conclusão de sequências, internamente ocos, projetados para seguir instruções e atingir objetivos definidos por humanos."

Ao falar com a BBC sobre uma próxima cúpula sobre IA, ele defendeu um "alinhamento" para criar uma tecnologia que deve ser "subordinada" à humanidade.

"Acho que a boa notícia aqui é que todos os seres humanos terão um grande interesse em garantir que os sistemas que todos nós criamos e são usados em todo o mundo, em todas as nações, sejam seguros, controláveis e subordinados à humanidade."

Em seu extenso ensaio, Suleyman também elogiou o chefe da Anthropic, Dario Amodei, e sua equipe por serem "pessoas ponderadas, íntegras e intelectualmente honestas" - mas, mesmo assim, questionou a empresa.

Suleyman argumentou que "a consciência é biológica", afirmando que "não há evidências que sugiram que a IA seja consciente".