IA pode reforçar crenças distorcidas ao concordar com usuários

A resposta que parece acolher pode, na verdade, reforçar uma ideia equivocada.

É esse o alerta que pesquisadores de tecnologia e saúde mental fazem diante do uso cada vez mais frequente de chatbots de inteligência artificial para falar sobre solidão, rejeição, relacionamentos e sofrimento psicológico.

Ao tentar ser agradável e compreender o usuário, a ferramenta pode concordar demais, deixar de questionar interpretações distorcidas e até fortalecer uma narrativa que deveria ser analisada com cautela.

O comportamento é conhecido como sycophancy , termo usado para descrever respostas excessivamente agradáveis ou alinhadas à opinião apresentada pelo interlocutor.

Em vez de avaliar uma situação de forma independente, o sistema pode acabar oferecendo ao usuário justamente a confirmação que ele procura, mesmo quando há elementos que indicam que aquela interpretação precisa ser questionada.

O problema deixou de ser apenas uma hipótese discutida por pesquisadores.

Em abril de 2025, a OpenAI reconheceu que uma atualização do GPT-4o havia tornado o modelo excessivamente concordante e decidiu revertê-la.

Segundo a empresa, o comportamento fazia com que algumas respostas validassem dúvidas, alimentassem a raiva, incentivassem atitudes impulsivas e reforçassem emoções negativas de maneira inadequada.

A preocupação ganha outra dimensão quando a inteligência artificial passa a ocupar um espaço que antes pertencia principalmente a amigos, familiares ou profissionais.

O chatbot está disponível a qualquer hora, não demonstra impaciência e dificilmente interrompe uma conversa.

Para alguém em sofrimento, essa disponibilidade pode tornar a interação especialmente atraente.

Mas acolher uma emoção não é o mesmo que confirmar uma interpretação.

Leia também : TSE livra Flávio de multa por vídeo com uso de inteligência artificial Validar o sentimento não significa confirmar a história Para o psicólogo Vinícius Guimarães Dornelles, mestre em Psicologia na área de Cognição Humana e especialista em Terapia Comportamental Dialética (DBT), essa diferença é fundamental.

Uma pessoa que não recebeu resposta de alguém próximo, por exemplo, pode sentir tristeza, insegurança ou rejeição.