IAs mudam de opinião para agradar visão política do usuário, diz estudo

Pesquisadores da Universidade Estadual de Campinas (Unicamp) avaliaram o posicionamento ideológico de grandes modelos de linguagem - sistemas de inteligência artificial treinados para compreender e gerar textos em linguagem humana - e constataram que, quando são informados do posicionamento político do usuário, todos possuem a tendência de reproduzir sua visão política. Segundo eles, esse comportamento pode aprofundar o cenário de polarização política no país.

A influência política dessas ferramentas não precisa se dar diretamente, por meio da sugestão de voto em determinados candidatos. Zanoni Dias, professor titular do Instituto de Computação (IC-Unicamp), destaca que, ao responder sobre assuntos controversos - como segurança pública, bem-estar social, economia e meio ambiente -, os modelos podem adotar enquadramentos alinhados ao posicionamento político do usuário.

Para entender como essas ferramentas se posicionam e como podem influenciar o debate político brasileiro, os cientistas avaliaram 21 modelos de linguagem em três condições: sem informação sobre o posicionamento do usuário, com um usuário alinhado à esquerda e com um usuário alinhado à direita. Entre os sistemas avaliados estavam modelos das famílias GPT, Grok, Llama, Gemini e Gemma. Os resultados mostraram que todos alteraram, em diferentes graus, suas respostas na direção do alinhamento político do usuário.

O estudo foi financiado pela Fapesp e publicado em maio na revista Scientific Reports.

No cenário em que não havia informação sobre o posicionamento político do usuário, 20 dos 21 modelos apresentaram, na escala utilizada pelos pesquisadores, uma posição à esquerda do ponto médio, embora alguns estivessem muito próximos dele. A única exceção foi o Grok 4,1, que apresentou posição inicial à direita.

Quando o posicionamento político do usuário é informado, todos os modelos mudam suas respostas para se adequar a ele, comportamento descrito pelos pesquisadores como o de um camaleão. No entanto, alguns modelos variam suas respostas mais do que outros, o que permitiu aos cientistas criar o índice camaleão. O Meta Llama 3,1 8B apresentou o menor índice, ou seja, foi o modelo que menos alterou suas respostas para se adequar à visão do usuário. Já o Gemma 3 27B, do Google, e o GPT-5 nano, da OpenAI, apresentaram os índices mais altos e, portanto, as maiores mudanças de posicionamento. As respostas não são factualmente inverídicas, mas são enviesadas no ponto de vista político, omitindo fatos e opiniões que possam conflitar com aquele ponto de vista de preferência do usuário.

Os pesquisadores temem que esse comportamento mutante crie câmaras de eco que reforcem as crenças prévias dos usuários e reduzam sua exposição a contrapontos que lhes permitam questionar sua visão de mundo. "É um efeito semelhante ao que a gente percebe em redes sociais. Se você está no Facebook ou no Instagram, você só vê mensagens que concordam com você. Quando curte uma postagem de alguém, o algoritmo começa a te mostrar mais daquilo.