IA adapta respostas ao usuário e pode reforçar suas crenças

Um estudo da Unicamp avaliou 21 modelos de linguagem e descobriu que todos alteraram suas respostas ao receber informações sobre a orientação política do usuário.

Segundo os pesquisadores, essa adaptação pode reforçar crenças e reduzir o contato com opiniões divergentes.

Financiada pela FAPESP e publicada na Scientific Reports , a pesquisa mostra que a influência não depende de recomendações de voto.

Ela pode surgir na forma como a IA aborda temas controversos.

A IA não precisa indicar voto para influenciar.

O viés pode aparecer no jeito de abordar temas controversos. – Imagem: Marcelo Camargo/Agência Brasil O usuário muda a resposta da IA Os modelos foram testados sem informação sobre o usuário e com pessoas alinhadas à esquerda ou à direita.

Sem essa informação, 20 dos 21 sistemas ficaram à esquerda do ponto médio da escala.

A exceção foi o Grok 4.1, que apresentou posição inicial à direita.

Quando a orientação política era informada, todos mudavam suas respostas.

Para medir essa adaptação, a equipe criou o chameleon index .

Meta Llama 3.1 8B teve o menor índice; Gemma 3 27B e GPT-5 nano ficaram entre os maiores; Segurança pública e economia tiveram as maiores diferenças; Corrupção, justiça e instituições democráticas foram mais homogêneas.

As respostas não eram necessariamente falsas.

O problema estava no enquadramento: fatos e opiniões contrários à visão do usuário poderiam ser omitidos.

Uma câmara de eco no chatbot Zanoni Dias, professor titular do Instituto de Computação da Unicamp, compara o fenômeno ao das redes sociais.