Os estudos que mostram que IA já causa "rendição cognitiva" em humanos

Pesquisas recentes sugerem que, para muita gente, usar IA já deixou de ser "uma ajudinha" e virou um atalho automático: a pessoa aceita a resposta do chatbot e pronto, sem questionamento crítico. Esse comportamento ganhou um nome - "rendição cognitiva" - e ele aparece tanto em experimentos controlados quanto, agora, no alerta mais recente do MIT sobre a dependência de estudantes.

*"Rendição cognitiva" é o termo usado por pesquisadores da Universidade da Pensilvânia (Wharton) para descrever quando a pessoa praticamente "entrega o volante" do raciocínio para a IA e aceita a resposta com pouca ou nenhuma checagem.

*No estudo publicado no primeiro semestre deste ano, voluntários responderam a testes de raciocínio com acesso opcional a um chatbot que, de propósito, errava cerca de metade das vezes.

*Mesmo assim, quando o chatbot dava respostas erradas, os participantes ainda aceitavam o raciocínio da IA em 80% das vezes; quando a IA acertava, a aceitação subia para 93%.

*No total (1.372 participantes e mais de 9.500 tentativas), os pesquisadores encontraram aceitação de raciocínio "falho" da IA em 73,2% das vezes e correção humana em apenas 19,7%.

*Um detalhe que chama atenção: quem usou IA ficou 11,7% mais confiante nas próprias respostas, mesmo com o chatbot errando metade do tempo.

*O mesmo trabalho sugere que incentivos e retorno imediato (como pequenas recompensas e feedback na hora) aumentam a chance de a pessoa desconfiar e corrigir a IA; já a pressão de tempo (um cronômetro de 30 segundos) reduz essa "desconfiança saudável".

*Agora, o alerta mais recente vem do MIT (Instituto de Tecnologia de Massachussetts): um relatório de um comitê de professores e estudantes concluiu que a IA está tornando tarefas comuns, provas para fazer em casa e até parte do aprendizado em sala menos eficazes, porque ficou difícil separar o que o aluno sabe do que o chatbot consegue escrever.

*Segundo o relatório, grupos de estudo estão ficando menos comuns e menos alunos procuram professores em horários de atendimento; a instituição diz que quer responder com mais interação humana e mudanças na avaliação, como provas orais, projetos de longo prazo e portfólios.

*O MIT também relata que o uso é frequente: 46% dos alunos de graduação entrevistados dizem usar modelos de linguagem (LLMs) todos os dias, e 90% afirmam ter medo de depender demais dessas ferramentas.

"Rendição cognitiva" ajuda a colocar em palavras um incômodo que muita gente já sente: o risco de baixar nossa guarda perante respostas de inteligência artificial . O experimento da Pensilvânia mostra o risco de um hábito simples do dia a dia: quando a resposta vem fluida e confiante, a gente troca o esforço de pensar por um "ok, deve estar certo".

O alerta apareceu também entre as preocupações de Bill Gates sobre o futuro da humanidade com inteligência artificial. Em carta recente, ele apontou a preocupação com o desenvolvimento cognitivo e das relações humanas - principalmente com as próximas gerações que já nascerão no ambiente da inteligência artificial.