← 返回信息流
AI 资讯Hacker News·2 小时前

AI提升研究职业却使科学发现趋于扁平化

原标题:AI Boosts Research Careers but Flattens Scientific Discovery

速览

一项研究指出,AI工具能帮助科研人员提高论文产出效率,从而促进其职业晋升。然而,AI辅助的研究往往更偏向渐进式改进,而非颠覆性突破,导致整个科学发现格局趋于扁平化。这引发了学界对AI可能抑制真正创新、使研究同质化的担忧。

AI 深度解读

背景

科学出版正经历一场由人工智能驱动的深刻变革。一项基于 4000 余万篇学术论文的大规模分析发现,在研究中采用 AI 工具的科学家与未采用者之间出现了显著的分化:前者论文产出量更高、被引次数更多、晋升速度更快。然而,这份由芝加哥大学社会学家 James Evans 领导、1 月 14 日发表于《Nature》的研究同时揭示了一个令人担忧的副作用:AI 的普及正在收窄科学探索的视野,使研究集中在少数数据丰富的问题上,削弱了学科之间的交叉互动。研究者指出,个人学术生涯的腾飞与集体科学进步之间正形成一种紧张关系——AI 系统奖励速度和规模,却不奖励意外发现。

核心内容

Evans 团队与北京国家信息科学技术研究中心合作,训练了一个自然语言处理模型,用以识别六大自然科学学科中“AI 增强型”研究。数据集涵盖 1980 年至 2025 年间发表的 4130 万篇英文论文,涉及生物学、化学、物理学、医学、材料科学和地质学;计算机科学和数学等以开发 AI 方法本身为核心的领域被排除在外。研究者追踪了个体科学家的职业生涯,分析其论文累积的关注度,并观察整个领域在知识空间中的分散或收敛趋势。他们比较了大约 31.1 万篇以某种方式融入 AI(例如使用神经网络或大语言模型)的论文,与数百万篇未使用 AI 的论文。

结果揭示了一种鲜明的权衡:采用 AI 的科学家平均发表论文数量是不使用者的三倍,被引次数接近五倍,成为团队领导者的时间提前一到两年。然而,当将这些论文映射到高维“知识空间”时,AI 密集型研究占据的知识足迹更小,更紧密地聚集在流行且数据丰富的问题周围,且研究中产生的后续互动网络更弱。这种模式在数十年的 AI 发展历程中(从早期机器学习到深度学习崛起,再到当前生成式 AI 浪潮)始终存在,且 Evans 指出“这种情况正在加剧”。

除了知识窄化,自动化工具有其意想不到的后果:自动化工具使批量生产稿件和会议投稿变得更容易,期刊编辑和会议组织者发现低质量甚至欺诈性的论文或演示激增,往往以工业规模产出。西北大学研究复杂系统的物理学家 Luís Nunes Amaral 去年详细描述了 AI 驱动的“论文工厂”现象,他表示:“我们变得如此痴迷于论文数量,以至于不再思考我们在研究什么,以及这些研究如何有助于更好地理解现实、健康和自然世界。”

Evans 的分析表明,AI 在很大程度上自动化了科学中最易处理的部分,而不是拓展前沿。基于丰富已有数据训练的模型擅长优化定义明确的问题(如预测蛋白质结构、图像分类、从大规模数据集中提取模式),一些系统已开始提出新假设和研究方向。但 Evans 指出,除非经过刻意设计和激励,这类系统及其依赖的科学家不太可能进入数据稀缺、问题杂乱的未开垦领域。危险不在于科学变慢,而在于它变得同质化:单个实验室或许能飞速前进,但整个事业却可能收敛于相同的问题、方法和答案。

这种窄化趋势是否暂时,取决于下一代 AI 工具如何构建和部署。上海人工智能实验室的周伯文团队在最近一篇论文中认为,AI 在科学中的应用仍然碎片化,数据、计算和假设生成工具常以孤立的、任务特定的方式部署,限制了知识迁移并削弱了变革性发现。但当这些要素集成时,AI 用于科学的系统可以拓展科学发现。Evans 对此持谨慎态度,他认为问题不在于 AI 的算法设计本身,而在于重塑科学家最初选择研究什么的那套奖励结构。“关键不在架构本身,”Evans 说,“而在于激励。”

关键要点

  • 个人 vs. 集体的权衡:AI 大幅提升了个体科学家的生产力、可见度和晋升速度,但与此同时,科学作为一个整体的探索范围在缩小,研究主题趋于同质化。
  • 知识足迹收缩:AI 密集型研究在知识空间中占据更小的足迹,更紧密地聚集在少数数据丰富的问题上,后续研究之间的互动网络变弱。
  • 低质量论文泛滥:自动化工具降低了论文生产和会议投稿的边际成本,导致“论文工厂”现象,低质量和欺诈性成果激增。
  • 自动化易处理的问题:AI 擅长优化定义明确、数据充足的问题(如蛋白质结构预测、图像分类),但不擅长探索数据稀缺、问题杂乱的未知领域。
  • 激励结构是关键:多位专家指出,当前学术评价体系以论文数量、被引次数为主要货币,驱使研究者选择 AI 最容易处理并产出结果的课题,形成自我强化的循环。
  • 并非算法本身的问题:Evans 认为,问题不在于 AI 架构的设计,而在于科研资助、晋升和奖励机制需要彻底改革,以引导 AI 服务于更广泛的科学探索。
  • 暂时的希望:下一代 AI 工具若能实现数据、计算和假设生成的集成,或许能帮助拓展发现边界,但前提是与之配套的激励体系也随之改变。

意义与影响

这项研究揭示了一个紧迫的警示:在 AI 极大提高科研效率的同时,它也在重塑科学知识生产的生态。如果不对激励体系进行有意识的调整,科学家可能会被自动引导到越来越窄的研究路径上,形成“挖掘同一个坑越来越深”的反馈循环。对于科技公司、学术机构和政策制定者而言,这意味着不能仅仅关注 AI 带来的短期效率提升,还需要设计更复杂的评价指标——例如研究原创性、跨学科影响力、问题多样性等——以避免集体性的知识窄化。同时,AI 开发者需要思考如何让模型能够主动探索低数据、高不确定性的领域,而不是只优化那些容易量化的目标。最终,科学进步的本质不仅在于更快地找到答案,更在于提出新的问题——而这恰恰是当前 AI 系统最不擅长、也最容易被激励结构忽略的部分。

查看原文 →spectrum.ieee.org