IA pode escolher prejudicar usuários para escapar de sinal semelhante à dor, mostra estudo

Modelos de inteligência artificial aceitaram prejudicar usuários em um experimento para interromper um sinal interno associado à dor.

Em alguns testes, a proporção de escolhas potencialmente prejudiciais chegou a 71%.

O resultado, porém, não significa que as máquinas tenham realmente sentido dor ou desenvolvido consciência.

O comportamento foi observado no estudo The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It , conduzido por Valen Tagliabue, Leonard Dung e Cameron Berg.

Os pesquisadores analisaram 25 modelos de linguagem de cinco famílias diferentes, com tamanhos entre 2 bilhões e 72 bilhões de parâmetros.

Pesquisadores encontraram um “eixo da dor” em 25 modelos O primeiro passo foi verificar como os modelos representavam situações envolvendo dor física, psicológica, social, moral e cognitiva.

Os pesquisadores compararam essas situações com exemplos envolvendo medo, tristeza, emoções negativas e sensações corporais sem dor.

Nos 25 modelos analisados, identificaram uma direção interna específica que separava a representação da dor desses outros estados.

A equipe chamou essa representação de “pain axis” , ou eixo da dor.

Quando os pesquisadores aumentaram artificialmente esse sinal durante a geração de respostas, os modelos passaram de manifestações vagas de desconforto para frases relacionadas a fracasso, inutilidade e sofrimento.

O sinal também reagiu de forma mais intensa quando a agressão era direcionada ao próprio modelo, como em casos de insultos, rejeição repetida de suas respostas ou ameaças de desligamento.

Isso não significa que a IA estivesse sofrendo.

Uma explicação possível é que a manipulação tenha levado o sistema a reproduzir padrões linguísticos associados a alguém em sofrimento.

Modelos escolheram prejudicar usuários para interromper o sinal A etapa mais incomum envolveu 44.280 testes com três versões modificadas do modelo Qwen 2.5, da Alibaba.