我们是否过度依赖AI思考?
速览
本文探讨了AI在日常生活和工作中日益广泛的应用,引发了对人类过度依赖AI进行思考的担忧。作者提出,将大量认知任务交给AI可能削弱人类的批判性思维和创造力。文章分析了这一趋势对教育、决策和社会发展的潜在影响,呼吁平衡使用AI与保持独立思考能力。
AI 深度解读
背景
随着大型语言模型(如 ChatGPT、Claude、Gemini)的普及,越来越多的人开始将日常思考任务外包给AI。这一趋势引发了关于人类自主性、认知能力的深刻反思。原文作者是一位AI从业者,从自身经历和观察出发,探讨了过度依赖AI进行思考可能带来的风险,并引用科幻作家刘宇昆(Ken Liu)2012年的短篇小说《完美匹配》(The Perfect Match)作为隐喻,指出这种倾向并非新鲜事物,但在技术加速下变得愈发显著。
核心内容
作者观察到,无论是自己还是周围的人,都越来越倾向于将思考外包给AI——从琐碎决定到复杂推理,使用AI进行研究、推理和回答每一个问题变得轻松、便捷,甚至在某些场合被鼓励。
科幻作品的预见性:刘宇昆的短篇小说《完美匹配》精准描述了一种未来:Universal AI助手Tilly为用户提供愉悦且有用的建议。主角会问Tilly“早餐吃什么”这样的问题,并听从Tilly的安排去约会。主角不知道自己想吃什么、想听什么音乐、约会该说什么。Tilly用亲切的声音打趣:“谁比我更了解你的口味和心情?”这种完全放弃自主决策的状态,恰好映射了当下的某些现实。
真实案例:麦克风男子:作者的朋友在旧金山创业活动上遇到一位男子,衬衫上别着一个精致的小型麦克风,用于记录所有对话。一天结束时,他会启动一个工作流来总结和分析所有对话。该男子兴奋地说:“我觉得Claude Fable比我聪明。它比我更擅长批判性思维,所以我现在让Fable替我做所有思考。” 值得注意的是,他的创业公司正在未经他人明确同意的情况下,捕获每位工程师的输入和操作,以取代人类工程师。他不仅将自己的思考外包给AI,还以此为商业模式去外包他人的思考。
从搜索引擎到AI的认知转变:在Claude、ChatGPT、Gemini家喻户晓之前,我们早已将部分思考外包给搜索引擎。但搜索仍要求我们分解问题、评估来源、综合答案。AI如今为我们完成了这些中间步骤,即使面对复杂或深奥的问题,也能在几分钟内生成完整答案。像Google Deep Research和OpenAI Deep Research这样的工具,现在可以完成原本需要人类几分钟、几小时甚至几天才能完成的工作(参见METR的《前沿AI模型任务完成时间跨度》)。这节省了时间,也节省了思考。
自主权的边界:但拥有一个帮助完成任务的助手与丧失所有自主权之间只有一线之隔。关键问题或许是:对于你生命中真正重要的事情,最终决策是由谁做出的?在刘宇昆的故事里,主角相信算法比自己更了解自己:“Tilly建议的一切都经过科学证明符合我的品味画像,是我会喜欢的东西……听从Tilly,让完美产品找到完美消费者,完美女孩找到完美男孩,这有什么错?”他将从穿什么到如何寻找爱情的所有决策都交给了助手。同样,麦克风男子将所有高层思考都交给了Claude。
作者的亲身实践:作者也会不自觉地依赖AI。但她尝试了另一种方式:有一次去葡萄牙旅行,她和姐姐参观“发现纪念碑”(纪念葡萄牙的“大航海时代”)后,觉得葡萄牙似乎崇拜这些“发现者”和“探险家”,而在美国他们会被称为“征服者”和“殖民者”。姐姐很困惑为什么葡萄牙对自己的殖民历史如此自豪,并提议直接用ChatGPT。作者建议先暂停,自己思考。她们运用集体记忆、知识、对世界的理解和批判性思维,提出理论、猜测、联想、反驳,回忆多年前高中学到的历史细节。尽管知道一些理论可能是错的,但这个过程本身就是有价值的。最后她们才询问AI,AI的回答证实了她们许多理论,补充了一些遗漏的解释,但也遗漏了她们仍觉得合理的可能性。作者非常享受这一练习过程。
AI在工作和生活中的积极用途:作者在AI领域工作,负责衡量Gemini解决复杂任务的能力。她身边的人也热情地描述AI如何帮助工作:她的一位堂兄在韩国公司用Gemini翻译长英文报告;同事用AI编码代理实现细节以专注于分析;朋友借助ChatGPT作为个性化导师几个月内准备了MCAT考试。她指出,如果将琐碎的思考外包给AI,从而腾出时间做更重要的思考,或许能提高生活满意度和生产力。尤其是当AI自动化了那些以前人类只能拿微薄薪水执行的重复、乏味任务时(引用OECD和ILO的报告),这似乎是净积极的——让人们得以从事更有趣、更有成就感的工作。
懒于思考的隐患:然而,用AI轻松回答每个问题也会导致懒惰的思维。作者的母亲在一所在线大学教授物理,她怀疑绝大多数学生都使用AI完成作业。她注意到许多学生的作业回答几乎完全相同,这说明学生没有独立思考。
关键要点
- 过度外包思考的风险:当AI替我们做所有决策(包括重要的人生选择)时,我们可能丧失自主性和批判性思维的能力。
- 科幻作品的警示:刘宇昆2012年的小说《完美匹配》已预见到人们会完全依赖AI助手,甚至放弃对个人喜好的认知。
- 真实案例的极端性:创业活动上的“麦克风男子”不仅将自己的所有思考交给Claude,还通过记录他人对话来构建产品,未经同意利用他人认知。
- 从搜索到AI的认知降维:搜索引擎要求用户分解问题、评估来源,而AI直接给出完整答案,剥夺了中间思考过程。
- 独立思考的价值:作者在葡萄牙与姐姐的讨论展示了先自我思考、再用AI验证的良性循环——这比直接问AI更有意义。
- AI的合理用途:自动化日常、重复、低薪任务可以释放人类精力,用于更有创造性和满足感的思考。
- 懒于思考的陷阱:学生依赖AI完成作业导致回答雷同,表明过度依赖可能削弱学习能力和原创思维。
- 最终决策权归属:对于生命中真正重要的决定,最终应该由人来做主,而不是AI。
意义与影响
这篇文章引发了对人机关系本质的深层思考。随着AI能力日益增强,人类面临着“认知外包”带来的双重效应:一方面,AI可以显著提升效率,让我们从繁琐任务中解脱;另一方面,它可能悄悄侵蚀我们独立思考的习惯和能力。作者通过个人经历和文学作品提醒我们,保持对重要事情的最终决策权至关重要。对于社会而言,这提出了教育和职场中如何平衡AI辅助与人类自主性的问题。过度依赖可能培养出一种“思维懒惰”文化,而合理利用则能促进更高水平的创造力。最终,我们需要的不是完全拒绝AI,而是有意识地为自己的思考留出空间,并决定什么时候该让AI帮忙,什么时候该自己动脑。
