AI is code and can't be prompted into being smarter

背景

在当前的生成式 AI 热潮中，存在一种普遍且危险的误解：人们倾向于将大型语言模型（LLM）视为某种具有自主意识、可以通过“提示工程”（Prompt Engineering）无限挖掘潜力的魔法黑盒。这种观点认为，只要找到“正确的咒语”或提示词，AI 就能展现出超越其训练数据的智能，甚至产生类似人类的推理能力。

然而，这种看法忽视了 AI 系统的本质。正如 Hacker News 上的一篇热门讨论所指出的，AI 模型在部署后本质上就是代码。它们是由固定参数构成的静态数学函数，不具备动态的自我进化能力，也不具备通过简单的文本交互来改变自身内部结构或提升基础认知水平的能力。这一观点旨在纠正公众和部分开发者对 AI 能力的过度神话，回归技术本质。

核心内容

这篇文章的核心论点在于解构“提示词能提升 AI 智能”这一迷思。作者指出，尽管精心设计的提示词（Prompt）确实能显著改善模型输出的质量和相关性，但这并不意味着模型本身变得更“聪明”了。

1. 模型是静态的代码，而非动态的智能体 一旦模型训练完成并部署，其权重（Weights）和参数就固定不变了。它就像一段编译好的 C++ 或 Python 代码。你无法通过向代码输入一段文本（即提示词）来修改代码本身的逻辑或增加新的功能。提示词的作用仅仅是引导模型从已有的参数空间中检索和重组信息，而不是让模型学习新东西。

2. “智能”的错觉源于检索与重组 当用户感到 AI 变聪明时，通常是因为提示词提供了更多的上下文（Context）、示例（Few-shot examples）或思维链（Chain-of-Thought）步骤。这帮助模型更好地激活了其在训练过程中学到的相关知识模式。但这只是对已有知识的更好利用，而非能力的跃升。如果模型在训练数据中没有学到某种逻辑或事实，无论提示词多么精妙，它都无法凭空创造出来。

3. 提示工程的局限性 提示工程（Prompt Engineering）是一种优化技术，用于提高输出的一致性、格式合规性和相关性。但它有明确的边界。它不能突破模型架构的限制，也不能弥补训练数据的缺失。试图通过提示词让一个基础模型具备它从未被训练过的复杂推理能力，往往会导致幻觉（Hallucination）或错误，因为模型只是在“猜测”用户期望的答案，而非真正理解问题。

4. 真正的智能提升需要工程手段 如果确实需要提升模型的能力，必须通过工程手段，如微调（Fine-tuning）、检索增强生成（RAG）或构建更复杂的代理（Agent）工作流。这些方法涉及修改模型参数、引入外部知识库或组合多个模型，而不是单纯依赖自然语言提示。

关键要点

• AI 本质是代码：部署后的 LLM 是静态的数学函数，参数固定，无法通过自然语言输入自我修改或升级。
• 提示词不等于学习：提示词只能引导模型利用已有知识，不能赋予模型新的知识或能力。
• 性能提升源于上下文：更好的提示词通过提供更丰富的上下文和结构，帮助模型更准确地检索和重组训练数据中的信息，而非提升模型本身的智力水平。
• 存在能力天花板：模型无法表现出其训练数据或架构中未包含的推理能力。超出此范围的“智能”表现往往是幻觉或概率性猜测。
• 需区分优化与进化：提示工程是输出优化技术，而非模型进化技术。真正的能力提升需要微调、RAG 或架构改进等工程方法。

意义与影响

这一观点对 AI 开发者和企业用户具有重要的指导意义：

1. 降低不切实际的期望：企业和用户应认识到，AI 不是万能的魔法助手。不能指望通过不断尝试不同的提示词来“逼出”模型不存在的深层推理能力。这有助于减少因期望落空而产生的挫败感，并更理性地评估 AI 系统的局限性。

2. 聚焦工程解决方案：对于需要更高智能水平的应用场景，开发者应将精力从单纯的“提示词调优”转移到更扎实的工程技术上，如构建高质量的 RAG 系统、进行领域特定的微调（Fine-tuning）或设计多智能体协作流程。

3. 避免过度依赖提示工程：虽然提示工程是当前快速见效的手段，但它具有脆弱性。随着模型版本的迭代，特定的提示词可能失效。理解 AI 的代码本质，有助于构建更稳定、更可维护的 AI 应用架构，而不是依赖于脆弱的提示词技巧。

4. 促进技术理性：在 AI 炒作盛行的背景下，重申“AI 是代码”有助于回归技术理性，强调数据质量、模型架构和系统工程在 AI 发展中的核心地位，而非过度神化自然语言交互的作用。

总之，这篇文章提醒我们，尽管提示词是与人机交互的重要接口，但它不能改变 AI 作为静态代码的本质。真正的智能提升需要深入的技术工程和持续的数据迭代，而非仅仅依靠语言的魔力。