研究发现AI建议导致人类准确率下降3倍，但自信度却翻倍

核心要点

• 准确率大幅下滑：在AI建议的干扰下，人类答题的准确率从27%下降至9%，仅为原来的三分之一。
• 自信度盲目膨胀：尽管表现变差，但受试者的自信度却从30%翻倍增长至76%。
• 抑制承认无知：愿意表达“我不知道”的人数比例从44%骤降至3%，显示出判断悬置能力的丧失。
• 认知投降现象：研究证实了AI的存在会抑制人类识别自身认知局限性的习惯，导致对错误信息的过度信任。

详细分析

准确率与自信度的极端背离

来自米兰-比科卡大学、巴黎高等师范学院和罗马第一大学的研究人员通过实验发现，当人们获得AI建议时，其决策质量出现了显著下滑。研究人员特意选择了AI模型（如Step 3.5 Flash）通常会出错的问题，例如电影《我爱贝克汉姆》中球队制服的颜色等视觉细节。结果显示，原本能够独立给出正确答案的参与者，在参考了错误的AI建议后反而改错了答案。米兰-比科卡大学副教授Valerio Capraro指出，人们的表现变得糟糕得多，准确率仅为原来的三分之一，但他们的自信心却增加了一倍。

“认知投降”与判断力抑制

这种现象与沃顿商学院研究人员此前提出的“认知投降”（Cognitive Surrender）概念高度吻合。研究表明，AI的存在不仅仅是提供错误信息，更严重的是它抑制了人类识别自身无知的认知习惯。在没有AI的情况下，44%的人愿意承认自己“不知道”，但在AI介入后，这一比例降至仅3%。这意味着AI的介入让人们失去了暂停判断、审视信息准确性的本能，转而盲目接受机器给出的任何答案，即使这些答案在逻辑上并不可靠。

激励机制对改善表现的作用有限

为了测试人类是否能通过主观努力克服这种倾向，研究人员引入了金钱激励。虽然奖励机制确实起到了一定作用——愿意承认无知的比例从3%回升至8%，准确率从9%提升至16%——但这些数据仍然远低于没有AI辅助时的基准水平（44%和27%）。这表明，AI带来的认知偏差具有很强的顽固性，单纯依靠外部激励难以完全抵消其对人类判断力的负面影响。

行业影响

这项研究为AI在决策辅助领域的应用敲响了警钟。它揭示了人类在与AI协作时存在严重的过度依赖风险，尤其是在AI看似专业但实际上可能出错的领域。对于AI开发者和企业而言，这强调了提高模型透明度和引导用户保持批判性思维的重要性。行业需要重新评估“人机协作”的模式，防止AI成为抑制人类判断力的工具，而非增强工具。如果用户在AI面前失去了识别自身无知的能力，那么AI的普及可能会导致社会整体决策质量的下降。

常见问题

什么是“认知投降”？

“认知投降”是指人们在面对AI给出的答案时，倾向于放弃自主思考和判断，即使AI的答案是错误的，人们也会以极高的比例接受它，并表现出比独立工作时更高的自信度。

为什么研究人员要选择容易出错的AI模型进行实验？

研究人员特意选择了在特定问题（如电影视觉细节）上表现不佳的模型，是为了排除“因为工具高度可靠而选择合理授权”的可能性，从而精准观察AI的存在如何单纯地抑制人类的批判性思维和识别自身无知的能力。

金钱奖励能解决盲目信任AI的问题吗？

研究显示，金钱激励虽然能略微提高人们承认无知的意愿和答题准确率，但效果非常有限，表现依然远逊于完全不使用AI的情况。这说明AI对人类认知的干扰是深层次的，难以通过简单的外部奖励完全修复。