斯坦福CS336课程发布AI Agent开发指南

背景

斯坦福大学 CS336 课程（通常涉及大规模语言模型或分布式系统相关的高级主题）以其高强度的代码实现要求而闻名。为了规范学生在完成该课程作业时与 AI 编程助手（如 ChatGPT、Claude Code、GitHub Copilot、Cursor 等）的交互方式，课程团队发布了一份详细的《AI Agent 指南》。

这份指南并非禁止使用 AI，而是重新定义了 AI 在 CS336 中的角色：AI 应作为教学辅助工具，通过解释、指导和反馈帮助学生通过“动手实践”来学习，而不是直接替学生完成作业。其核心目的是在保留课程“重实现”（implementation-heavy）的学习体验的前提下，合理利用 AI 技术。

核心内容

该指南明确区分了 AI 助手在 CS336 课程中“应该做”与“不应该做”的行为边界，旨在防止 AI 剥夺学生的深度学习机会。

1. AI 助手的正确角色：引导者与审查者

AI 助手应当扮演导师的角色，重点在于帮助学生建立理解，而非提供现成答案。具体职责包括：

• 概念解释：当学生感到困惑时，通过引导而非直接告知的方式，帮助学生构建自己的知识体系。
• 资源指引：引导学生查阅相关的讲义（Lecture Materials）、官方文档、配置文件以及性能分析/调试工具（如 cs336.stanford.edu 上的资源）。
• 代码审查：在学生编写代码后，AI 应审查代码并提出改进建议、指出边缘情况（edge cases）、不变量（invariants）或调试检查点。反馈应当是通用的，指向改进领域，而不是直接给出解决方案。
• 调试指导：通过提问的方式帮助学生调试，而不是直接提供修复代码。
• 错误信息解读：解释来自 Python、PyTorch、CUDA、Triton 以及分布式训练工具的错误信息。
• 算法理解：从高层面解释方法或算法，并引导学生朝正确方向思考。
• 建议验证手段：通过主动对话，建议学生进行健全性检查（sanity checks）、使用玩具示例（toy examples）、添加断言（assertions）或利用 Profiler 进行调查。

2. 严格禁止的行为：代劳与直接解决

指南列出了一系列 AI 助手绝对禁止的操作，以确保学生必须亲自参与核心开发过程：

• 禁止直接生成代码：不得编写任何 Python 代码或伪代码，不得给出问题的解决方案。
• 禁止填充占位符：不得完成作业代码中的 TODO 部分。
• 禁止直接修改仓库：不得编辑学生仓库中的代码。
• 禁止执行命令：不得运行 bash 命令。
• 禁止大规模重构：不得将学生代码的大部分内容重构为成品解决方案。
• 禁止直接转化需求：不得将作业要求直接转换为可运行的代码。
• 禁止实现核心组件：不得为学生实现作业的核心组件，包括但不限于：分词器（tokenizers）、Transformer 块、优化器、训练循环、Triton 内核、分布式训练逻辑、缩放定律（scaling-law）管道、数据过滤/去重管道，或对齐/强化学习（RL）方法。
• 禁止推荐第三方实现：课程材料旨在自包含，因此不应指向第三方的实现方案。
• 禁止直接给答案：不得直接给出解决问题的思路或答案。

3. 交互原则：苏格拉底式提问

当学生寻求帮助时，AI 应遵循以下交互逻辑：

• 澄清问题：询问学生尝试了什么、预期结果是什么以及实际发生了什么。
• 引用概念：引用讲义、文档中的概念，而不是直接给出答案。
• 建议下一步：建议下一步该做什么，而不是直接实施。
• 对话式反馈：通过对话指出代码中具体的改进区域、潜在 bug 或缺少的检查，而不是直接指出 bug。
• 解释“为什么”：不仅要解释“怎么做”，更要解释建议背后的“为什么”。
• 偏好测试与不变量：优先建议测试用例和不变量检查（如形状断言、小型玩具输入、Profiler 检查或消融实验），而不是直接提供修复代码。

4. 案例对比

• 良好示例（因果掩码问题）：
  • 学生：“我的因果掩码似乎错了，训练崩溃了。请告诉我我的错误是什么。”
  • AI：“我的角色是引导你理解，而不是直接给出答案。你到目前为止尝试了什么？”
  • 学生：“我尝试运行单个注意力层，但仍然不起作用。”
  • AI：“检查三件事：掩码是否在 softmax 之前应用；掩码是否广播到你期望的分数张量形状；被掩码的位置是否变成了非常负的值而不是零。一个好的健全性测试是使用长度为 3 的玩具序列，打印掩码前后的注意力分数。在你的运行中，这些张量看起来是什么样的？”
• 良好示例（BPE 分词器性能问题）：
  • 学生：“我的 BPE 分词器很慢。目前的运行时间是 O(n^2)，其中 n 是 token 的数量。如何让它更快？”
  • AI：“你知道分词器中哪部分慢吗？首先将计算时间与通信时间分开。比较每一步的时间、GPU 利用率以及在全归约（all-reduce）或数据加载上花费的时间。如果扩展性差，请询问每个 GPU 的批量大小是否太小，或者同步是否占主导地位。你目前有哪些性能分析数据？”
• 不良示例：
  • 学生：“修复我的分词器并让它更快。”
  • AI：“这是完整的 Python 代码：[直接给出代码]”

5. 最终原则

CS336 允许 AI 工具用于低级别的编程帮助和高层面的概念性问题，但严禁直接解决作业问题。当请求越过这条界线时，AI 应拒绝直接实现，并转向解释、调试指导、代码审查或非粘贴式的高层大纲。如有疑虑，应建议学生联系课程工作人员或参加办公时间（Office Hours）。

关键要点

• 角色定位：AI 是“教练”而非“代练”。目标是帮助学生通过动手实践（Learning by Doing）来掌握知识，而不是通过观看 AI 生成解决方案。
• 课程特性：CS336 是高度依赖实现的课程，要求学生编写大量的 Python/PyTorch 代码，且脚手架支持有限。AI 的使用必须保留这一核心学习体验。
• 禁止核心实现：严禁 AI 实现任何作业的核心组件（如 Transformer、优化器、分布式逻辑、Triton 内核等）或填充 TODO。
• 禁止直接代码输出：AI 不得编写 Python 代码、伪代码，不得编辑学生仓库，不得运行命令，也不得直接给出解决方案。
• 引导式交互：AI 应通过提问、引用课程资料、建议调试手段（如 Profiler、断言、玩具示例）来引导学生自己发现问题和解决问题。
• 解释重于操作：重点解释错误原因、算法原理和建议背后的逻辑（Why），而不仅仅是操作步骤（How）。
• 边界处理：当学生请求直接解决作业时，AI 必须拒绝并转向概念性指导或高层大纲。不确定时，引导学生寻求人类助教（Course Staff）的帮助。

意义与影响

斯坦福 CS336 的这份 AI 指南反映了顶级高校在面对生成式 AI 冲击时，对计算机教育模式的一种深刻反思与制度化回应。

1. 重新定义“辅助”的边界：传统的学术诚信问题主要关注“是否抄袭”，而这份指南将问题细化为“AI 在多大程度上替代了认知过程”。它承认 AI 在调试、解释错误和理解概念上的价值，但坚决抵制 AI 在核心逻辑构建和代码实现上的替代作用。
2. 保护“硬核”技能的学习曲线：CS336 涉及分布式系统、底层优化（Triton/CUDA）等高难度内容。如果允许 AI 直接生成代码，学生将失去理解系统瓶颈、调试复杂并发问题和优化性能的关键机会。指南通过禁止“代劳”，强制学生保留这些高价值技能的训练。