Automation Without Understanding

背景

近年来，人工智能系统在数学推理领域取得了突破性进展，从辅助证明到独立提出新定理，AI 的数学能力正在快速逼近甚至超越人类专家。与此同时，美国联邦政府对数学科学的基础研究与人才培养的支持正持续减弱，导致从基础教育到研究机构的“数学能力供应链”出现结构性断裂。2026 年 5 月，一个 AI 系统成功推翻了 Erdős（埃尔德什）关于平面单位距离问题的一个长期猜想——这既是 AI 数学能力的里程碑，也暴露了人类验证和理解此类结果的能力缺口。本文（Automation Without Understanding）正是在这一背景下提出：当 AI 能够自主生产数学成果，而人类理解这些成果的能力却在退化时，社会面临的是一个战略性错误。

核心内容

该论文指出，当前正在同时发生两件事：一是人工智能系统已经开始产生真正的研究级数学成果；二是美国正在削弱生产“能够理解这些系统在做什么”的人类的管道。论文主张，将这两个趋势放在一起看，构成了一项战略失误。

“数学能力”被定义为经过训练后能够验证、解释和质疑数学推理的能力。它并非定理生产的副产品，而是一种基础设施——这种基础设施需要通过几代人的制度积累才能建立，无法按需重组。论文以 2026 年 5 月 AI 对 Erdős 关于平面单位距离问题的长期猜想的证伪为例，同时引用近期联邦对数学科学支持的削弱，论证了应将数学能力视为与半导体能力同等重要的战略资产。

作为响应措施，论文提出（以及其他建议）：要求执行关键推理的 AI 系统，以形式化、机器可验证的格式暴露其决策关键主张，从而将 AI 推理的一部分从“不透明的说服”转变为“可审计的结构”。

关键要点

• AI 已能自主生产研究级数学成果：2026 年 5 月，AI 推翻了 Erdős 关于平面单位距离问题的长期猜想，标志着 AI 数学能力的质变。
• 美国数学能力基础设施正在衰退：联邦对数学科学的支持被削弱，导致培养能够验证、解释和质疑 AI 输出的人才管道萎缩。
• 数学能力是战略资产：它并非定理生产的副产物，而是一种代际积累的基础设施，与半导体制造能力同等重要。
• AI 推理需要可审计性：论文要求关键推理的 AI 系统以形式化、机器可验证的格式暴露其决策关键主张，将说服转化为可审计的结构。
• 战略错误警示：若放任 AI 自动化生产数学成果而不同步维护人类理解能力，将导致无法验证、无法质疑 AI 输出的危险局面。

意义与影响

该论文指向了一个核心矛盾：技术能力的快速提升与人类监管/理解能力的相对退化。将数学能力提升到国家战略资产的高度，意味着需要像维护芯片产业链一样维护数学教育与研究体系。具体而言：

• 政策层面：各国应重新评估对基础数学科学的公共投资，避免出现“AI 算得快，但没人懂它算得对不对”的局面。
• 技术标准层面：要求关键推理的 AI 系统提供形式化可验证的中间断言，可能成为未来 AI 审计与监管的标杆。这类似于软件工程中的“可验证合约”或“形式化验证”思想，但应用于 AI 推理过程。
• 教育层面：数学人才培养不能仅服务于 AI 工具的使用，而应着重培养能够理解、挑战和超越 AI 推理的“深度理解者”。否则，人类将沦为 AI 输出的被动消费者。
• 全球竞争视角：如果美国（或其他主要科技国家）持续削弱数学基础设施，而对手国家加强这方面建设，长期来看将导致“数学能力鸿沟”，从而影响国家安全与科技领导力。

总之，Automation Without Understanding 不仅是一篇关于 AI 与数学的论文，更是对技术时代“理解优先于自动化”的战略宣言。它提醒我们：在没有人类理解的情况下追求自动化，不是进步，而是风险。