Pesquisas recentes sugerem que, para muita gente, usar IA já deixou de ser “uma ajudinha” e virou um atalho automático: a pessoa aceita a resposta do chatbot e pronto, sem questionamento crítico. Esse comportamento ganhou um nome – “rendição cognitiva” – e ele aparece tanto em experimentos controlados quanto, agora, no alerta mais recente do MIT sobre a dependência de estudantes.
O que é a “rendição cognitiva”
*”Rendição cognitiva” é o termo usado por pesquisadores da Universidade da Pensilvânia (Wharton) para descrever quando a pessoa praticamente “entrega o volante” do raciocínio para a IA e aceita a resposta com pouca ou nenhuma checagem.
*No estudo publicado no primeiro semestre deste ano, voluntários responderam a testes de raciocínio com acesso opcional a um chatbot que, de propósito, errava cerca de metade das vezes.
*Mesmo assim, quando o chatbot dava respostas erradas, os participantes ainda aceitavam o raciocínio da IA em 80% das vezes; quando a IA acertava, a aceitação subia para 93%.
*No total (1.372 participantes e mais de 9.500 tentativas), os pesquisadores encontraram aceitação de raciocínio “falho” da IA em 73,2% das vezes e correção humana em apenas 19,7%.
*Um detalhe que chama atenção: quem usou IA ficou 11,7% mais confiante nas próprias respostas, mesmo com o chatbot errando metade do tempo.
*O mesmo trabalho sugere que incentivos e retorno imediato (como pequenas recompensas e feedback na hora) aumentam a chance de a pessoa desconfiar e corrigir a IA; já a pressão de tempo (um cronômetro de 30 segundos) reduz essa “desconfiança saudável”.
O novo alerta do MIT
*Agora, o alerta mais recente vem do MIT (Instituto de Tecnologia de Massachussetts): um relatório de um comitê de professores e estudantes concluiu que a IA está tornando tarefas comuns, provas para fazer em casa e até parte do aprendizado em sala menos eficazes, porque ficou difícil separar o que o aluno sabe do que o chatbot consegue escrever.
*Segundo o relatório, grupos de estudo estão ficando menos comuns e menos alunos procuram professores em horários de atendimento; a instituição diz que quer responder com mais interação humana e mudanças na avaliação, como provas orais, projetos de longo prazo e portfólios.
*O MIT também relata que o uso é frequente: 46% dos alunos de graduação entrevistados dizem usar modelos de linguagem (LLMs) todos os dias, e 90% afirmam ter medo de depender demais dessas ferramentas.
IAgora?
“Rendição cognitiva” ajuda a colocar em palavras um incômodo que muita gente já sente: o risco de baixar nossa guarda perante respostas de inteligência artificial. O experimento da Pensilvânia mostra o risco de um hábito simples do dia a dia: quando a resposta vem fluida e confiante, a gente troca o esforço de pensar por um “ok, deve estar certo”.
O alerta apareceu também entre as preocupações de Bill Gates sobre o futuro da humanidade com inteligência artificial. Em carta recente, ele apontou a preocupação com o desenvolvimento cognitivo e das relações humanas – principalmente com as próximas gerações que já nascerão no ambiente da inteligência artificial. Como incentivar um filho a perguntar uma dúvida profunda aos pais em vez da Alexa ou outro chatbot qualquer?
O relatório do MIT sugere que, na educação, o problema não é apenas cola: é cultura. Se o aluno recorre ao chatbot ao primeiro sinal de dificuldade, como descreveu o professor Paul Novosad, ele pode até entregar trabalhos melhores no papel – mas treina menos o músculo de enfrentar o problema. E, quando a escola tenta medir aprendizado com tarefas para casa, a régua fica torta: o que está sendo avaliado é o aluno ou a ferramenta?Continua após a publicidade
Ao mesmo tempo, a saída não parece ser uma caça às bruxas tecnológica. O próprio debate nas universidades aponta um caminho mais realista: ensinar onde a IA ajuda e onde ela atrapalha – e redesenhar avaliações para exigir o que chatbot não entrega sozinho, como explicar o raciocínio em voz alta, sustentar escolhas e trabalhar em grupo. Em outras palavras: usar IA pode ser “descarregar” tarefas; o desafio é não transformar isso em desistência de pensar.
O que o mundo está dizendo sobre isso
“Acho que você tem que se inclinar, mas tem que fazer isso de uma forma que seja ponderada e ética e que faça as perguntas certas. A resposta certa para a IA não é apenas ‘não’. Não pode ser. Tem que ser abordada com curiosidade e compreensão das implicações”, Wendy Hensel, presidente da University of Hawaii (via The New York Times).
“A IA sobrecarrega esses trade-offs. Entregar tarefas específicas a modelos muitas vezes fará sentido: eles são muito melhores que os humanos em muitas coisas. Mas o leque de capacidades da IA, aliado a uma interface conversacional conveniente e uma persona sedutoramente confiante, levanta a perspectiva menos de delegação do que de capitulação total. Daí a ‘rendição cognitiva'”, The Economist.
“Gosto deste termo rendição cognitiva, “onde os alunos recorrem à IA ao primeiro sinal de dificuldade”. Precisamos encorajar os graduandos (e todos os humanos) a reconhecer esse padrão e resistir a ele”, Paul Novosad, professor de economia em Dartmouth (via X).
“A validade dos resultados experimentais, especialmente em psicologia, tem sido questionada nos últimos anos porque eles não podem ser replicados. Isso não quer dizer que notei problemas com o trabalho desses autores (estou longe de ser qualificado para isso, de qualquer forma), apenas uma tendência que vale a pena sinalizar”, Mike Pearl, repórter do Gizmodo.
Fonte: TILT no UOL