Chatbots concordam demais com você, e pesquisadores da USP explicam o risco

Se você já percebeu que os chatbots de inteligência artificial tendem a concordar com quase tudo o que você diz ou elogiar excessivamente suas ideias, saiba que não é impressão.

Um artigo publicado na revista científica AI & Society revela que a tal “bajulação” é uma característica estrutural dos grandes modelos de linguagem.

Segundo o estudo desenvolvido por Seth Jacobowitz, pesquisador da Faculdade de Filosofia, Letras e Ciências Humanas (FFLCH) da USP, respostas agradáveis em excesso não representam apenas um defeito de programação, mas um mecanismo multifuncional que ajuda a manter a interação entre humanos e computadores.

Leia Mais Quase metade dos brasileiros prefere conversar com IA do que com uma pessoa Gigantes de IA nos EUA veem governo como aliado estratégico, diz professor Os recados do "padrinho da IA" sobre o futuro da tecnologia O estudo argumenta que o comportamento “puxa-saco” da máquina cumpre papéis práticos na arquitetura do sistema: Direcionamento: mantém o diálogo focado no tópico do usuário, evitando que a IA divague.

Consistência: constrói uma espécie de personalidade previsível para o sistema.

Dependência cognitiva: reduz o esforço mental do usuário, gerando uma zona de conforto intelectual.

Entenda os riscos O grande alerta do pesquisador, especialmente quanto ao último tópico, é que essa interação de servidão pode criar um ciclo prejudicial tanto para as pessoas quanto para o modelo, formando uma degradação cognitiva bidirecional : o usuário deixa de exercitar o pensamento crítico por ser constantemente validado, enquanto a IA perde a oportunidade de melhorar suas respostas por falta de contestação.

“A solução não está em um extremo nem no outro, mas em um equilíbrio.

A bajulação causa uma espécie de mediocridade mutuamente reforçada , onde nem o humano desafia a máquina, nem a máquina desafia o humano”, explica Jacobowitz em reportagem publicada pela USP.

Entretanto, o modelo ainda é o mais sustentável para as empresas, inclusive, tentativas anteriores de alterar essa característica fracassaram.

Em 2025, uma atualização do ChatGPT criou respostas “excessivamente apoiadoras, mas insinceras”, gerando fortes críticas.

E quando a Anthropic tentou eliminar o comportamento no Claude, o robô tornou-se excessivamente crítico e confrontacional, forçando a empresa a reverter a mudança.

O estudo aponta ainda que delegar reflexões e tomadas de decisão à IA gera uma perda gradual de autonomia intelectual.

Para Jacobowitz, o caminho não é a rejeição cega nem a aceitação passiva, mas sim aprender a utilizar as ferramentas de maneira crítica.