CS 329Z：构建 AI 智能体

从单体大语言模型转向复合人工智能系统—即包含大型语言模型、检索器、工具和优化器等多个交互组件的系统 —代表了人们构建 AI 应用方式的根本性变革。本课程教授学生如何工程化实现智能体系统：涵盖从简单的大语言模型流水线，到复合 AI 系统，再到自主智能体的完整体系。学生将学习如何确定重点攻关的问题类型、分解问题、选择合适的组件、收集与整理数据、构建评估体系，并探讨在实践中构建这些系统时会遇到的设计权衡。 学生将首先从零开始构建核心组件（检索增强生成 RAG、工具调用、智能体循环），随后学习 DSPy 等框架是如何将这些模式抽象出来的。通过两项全流程应用的作业和一个贯穿一个学季的项目，学生将获得构建、优化和评估智能体系统的实践经验。

注意：课程表仅供参考，如有变动以实际通知为准。每周一和周三下午 1:30–2:50 在 Packard 101 教室上课。课件资料将陆续在此链接发布。

Week|Date|Lecture|Course Material 1|Wed Sep 23|基础与全景 导论——什么是智能体系统？ 从单体模型到复合 AI 系统再到智能体的发展脉络；复合系统适用的场景；三大工程挑战（分解、数据、评估）；课程后勤安排。 阅读材料：

• Zaharia et al. "The Shift from Models to Compound AI Systems." BAIR Blog (2024). 补充阅读
• Ng. "Agentic Design Patterns Part 1: Four AI Agent Strategies…" The Batch (2024).
• Si et al. "Towards Execution-Grounded Automated AI Research." arXiv (2026). 2|Mon Sep 28|面向开发者的 LLM API 与 SDK（litellm）、结构化输入输出与受限生成、解码策略与测试时计算、上下文工程、模型选型以及成本/延迟权衡。 阅读材料：
• Schluntz & Zhang. "Building Effective Agents." Anthropic (2024). 补充阅读
• Rajasekaran et al. "Effective Context Engineering for AI Agents." Anthropic (2025). 2|Wed Sep 30|核心构建模块 检索增强生成（RAG） 事实 grounding 与幻觉、嵌入（embeddings）与向量存储、分块策略、混合搜索、跨编码器与晚期交互（ColBERT）。动手实验：从零构建 RAG 流水线。 阅读材料：
• Lewis et al. "Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks." NeurIPS (2020). 补充阅读
• Khattab & Zaharia. "ColBERT: Efficient and Effective Passage Search via Late Interaction over BERT." SIGIR (2020). 3|Mon Oct 5

工具使用与函数调用REPL、函数调用API、模型上下文协议（MCP）、设计优质工具、代码执行沙箱、错误处理与重试。动手实践：从零构建一个具备工具调用能力的系统。 阅读材料:

• 模型上下文协议规范。Linux基金会（2025年）。 3 10月7日星期三 框架与智能体设计框架与编排DSPy（签名、模块、优化器）、LangChain/LangGraph、LlamaIndex；各框架抽象了什么 vs. 从零开始构建了什么；选择合适的抽象层级。 阅读材料:

• Khattab 等。"DSPy: 将声明式语言模型调用编译为自改进管道。" ICLR (2024)。 4 10月12日星期一 智能体设计模式与支架工作流与智能体的分类法、五种可组合的工作流模式、智能体模式（ReAct、规划-执行、反思），以及支架作为设计决策。 阅读材料:

• Yao 等。"ReAct: 在语言模型中融合推理与行动。" ICLR (2023)。 4 10月14日星期三 记忆与多智能体系统智能体记忆架构短期记忆与长期记忆、基于工具操作的记忆、文件系统作为外部化记忆、结构化记忆范式，以及跨智能体记忆。 阅读材料:

• Packer 等。"MemGPT: 迈向将LLM作为操作系统。" arXiv (2023)。 附加阅读材料

• Letta。"智能体记忆：如何构建学习和记住的智能体。" Letta 博客（2025年）。

• Chhikara 等。"Mem0: 构建具有可扩展长期记忆的面向生产就绪的AI智能体。" arXiv (2025)。

• Park 等。"生成式智能体：人类行为的交互式模拟。" UIST (2023)。 5 10月19日星期一 多智能体系统单体与多智能体架构、编排模式、交接与状态转移、委托与协作模式，以及协调和错误的传递所面临的挑战。 阅读材料:

• Wu 等。"AutoGen: 通过多智能体对话赋能下一代LLM应用。" COLM (2024)。 附加阅读材料

• Cemri 等。"为什么多智能体LLM系统会失败？" arXiv (2025)。

• Neubig。"不要忽视单体系统。" OpenHands 博客（2024年）。

• Liu 等。"LLM赋能的动态智能体网络用于面向任务的智能体协作。" COLM (2024)。 5 10月21日星期三 优化优化从提示到微调的全景；提示优化（GEPA、MIPROv2、OPRO、TextGrad）；推理时计算扩展；LoRA/QLoRA；蒸馏；RLHF/DPO的高水平概述；以及在何时优化提示 vs. 权重 vs. 推理计算。 阅读材料:

• Snell 等。"最优地扩展LLM推理时计算… " ICLR (2025)。

• Agrawal 等。"GEPA: 反思式提示进化可以超越强化学习。" arXiv (2026)。 附加阅读材料

• Soylu 等人.《微调与提示优化：二者结合方显奇效》。EMNLP（2024 年）。

• Opsahl-Ong 等人.《优化多阶段语言模型程序中的指令与示例子》。arXiv（2024 年）。

6

Mon Oct 26 / 10 月 26 日（周一）

📺 客座讲座（待定）

6

Wed Oct 28 / 10 月 28 日（周三）

面向智能体系统的数据：智能体究竟需要哪些数据？轨迹、示范与反馈；用于优化 vs. 用于评估的数据；数据飞轮；合成数据生成；从人机交互中收集数据。

阅读材料：

• Shankar.《面向大型语言模型应用的数据飞轮》。（2024 年）

补充阅读

• Tan 等人.《用于数据标注与合成的大型语言模型：综述》。EMNLP（2024 年）。

7

Mon Nov 2 / 11 月 2 日（周一）

数据选择与质量：寻找信息量最大的数据，过滤与选择策略，小而精准的基准测试，标注实践，质量评估，以及从智能体轨迹构建数据集。

阅读材料：

• Yang 等人.《SWE-smith：为软件工程智能体扩展数据规模》。NeurIPS D&B（2025 年）。
• Shankar 等人.《谁来验证验证者？——将 LLM 辅助评估与人类偏好对齐》。UIST（2024 年）。

补充阅读

• Zhou 等人.《LIMA：对齐中的"少即是多"》。NeurIPS（2023 年）。

7

Wed Nov 4 / 11 月 4 日（周三）

面向智能体系统的评估

评估基础与基准设计：为何评估如此困难，四元组框架（请求、环境、停止条件、评分器），各组件的设计，优秀基准应具备的性质，贴近真实场景的脚手架，以及可靠性维度。

阅读材料：

• Zhu 等人.《建立构建严谨智能体基准测试的最佳实践》。（2025 年）

补充阅读

• Press.《如何构建优良的文本生成基准测试》。（2024 年）
• Polo 等人.《tinyBenchmarks：用更少的样例评测大语言模型》。ICML（2024 年）。

8

Mon Nov 9 / 11 月 9 日（周一）

LLM 作为评判者与评估基础设施：三类评分器，设计评判提示，已知的偏差，成对评估 vs. 单点评估，非确定性指标（pass@k vs. pass^k），测试框架设计，以及 Anthropic 的八步路线图。

阅读材料：

• Grace 等人.《揭秘 AI 智能体的评估方法》。Anthropic（2026 年）。
• Zheng 等人.《MT-Bench 与 Chatbot Arena 中的 LLM 评判》。NeurIPS（2023 年）。
• Ryan 等人.《AutoMetrics：由自动生成的评估器近似人类判断》。ICLR（2026 年）。

补充阅读

• Zhu 等人.《AutoLibra：从开放式人类反馈中归纳智能体度量》。ICLR（2026 年）。

8

Wed Nov 11 / 11 月 11 日（周三）

安全

智能体安全与防护机制：工具访问带来的隐私风险，提示注入（包括间接注入），红队测试，沙箱与权限模型，输出防护，责任归属考量，负责任地部署，以及人在回路（human-in-the-loop）模式。

阅读材料：

• Shao 等. "PrivacyLens: 评估大模型在行动中的隐私规范意识." NeurIPS D&B (2024).
• Zhang & Yang. "通过模拟探索 LLM Agent 的隐私风险." arXiv (2025).
• Li. "Agent化大模型作为强大的去匿名化工具." arXiv (2026).

• Wen 等. "LLM Agent 的情景化隐私防护." arXiv (2026).
• OpenAI. "理解提示注入：前沿安全挑战." (2025).
• Anthropic. "Anthropic 的责任扩展政策." (2023).

📺 客座讲座（待定）

编程 Agent 与主动式 Agent
编程与软件工程 Agent
Agent 的全流程工作原理；SWE-agent、Claude Code 和 OpenHands 的架构设计；脚手架作为决策工具；SWE-bench 及四元组框架的实际应用；Agent 时代软件开发的前瞻。

阅读材料：

• Yang 等. "SWE-agent：Agent-计算机接口赋能自动化软件工程." NeurIPS (2024).
• Wang 等. "OpenHands：AI 软件开发者的开放平台." ICLR (2025).

扩展阅读：

• Anthropic. "Claude Code：Agent化编程最佳实践." (2025).
• Young. "长周期 Agent 的效 harnessing." Anthropic (2025).
• Jimenez 等. "SWE-bench：大语言模型能否解决真实世界的 GitHub 问题？" ICLR (2024).

无课——感恩节假

无课——感恩节假

主动式 Agent
从反应式到主动式；通用用户模型（GUM）；下一步动作预测；开源主动式个人 Agent；隐私与信任议题；Agent 何时应该发起交互 vs. 被动等待（混合发起模式）。

阅读材料：

• Shaikh 等. "通过计算机使用行为构建通用用户模型." UIST (2025).

扩展阅读：

• Shaikh 等. "从人机交互中学习下一步动作预测器." arXiv (2026).
• Steinberger. "OpenClaw：开源主动式 AI Agent." (2025).

开放问题与最终演示
前沿与开放问题
多模态 Agent、网页交互 Agent 与计算机控制；科学领域的 Agent；长周期系统的 Agent 架构；生产部署与可观测性（追踪、监控、成本管理）；可靠性、可扩展性与可解释性中的开放问题。

扩展阅读：

• Xie 等. "OSWorld：在真实计算机环境中评估多模态 Agent." NeurIPS D&B (2024).
• Yao 等. "WebShop：面向可扩展的真实世界网页交互——基于具身语言 Agent." NeurIPS (2022).

于期末考试成绩公布期间举行；具体时间地点待定。

所有截止日期均以太平洋时间为准。截止日期可能变动，任何调整将在课堂上公布并同步至此页面。

时间表
3
HW1发布
10月5日（星期一）
—
3
项目提案提交截止
10月9日（星期五）
晚上11:59
6
HW2发布
10月26日（星期一）
—
6
HW1提交截止
10月30日（星期五）
晚上11:59
7
中期演示
11月4日（星期三）
课上进行
7
中期报告提交截止
11月6日（星期五）
晚上11:59
8
论文视频提交截止（10分钟）
11月13日（星期五）
晚上11:59
9
HW2提交截止
11月20日（星期五）
晚上11:59
11
同伴互评提交截止（3个视频）
11月30日（星期一）
晚上11:59
期末周
最终提交与最终系统演示
12月7–11日
待定

两次完全应用型的作业建立在课堂讲授的组件之上。每次作业后会跟随一次关于HW的10分钟测验，学生需在此解释其设计决策和取舍方案，并展示对知识的理解。

• HW1：构建一个智能体系统（第3–6周）。给定一组研究论文库，构建一个通过检索相关论文并进行推理来回答科学问题的智能体。A部分从零开始构建该智能体，使用litellm实现（RAG + 工具调用 + 带有如ReAct等推理模式的智能体循环）；B部分使用DSPy重建关键组件，并反思该框架抽象了哪些内容。
• HW2：评估一个智能体（第6–9周）。给定一个预构建的智能体，设计一份全面的评估套件，包含基于代码的评分器、至少一个LLM-as-judge评估、基于4元组框架（请求、环境、停止条件、评分器）构建的基准任务以及错误分析。

每位学生录制一段关于其自选近期智能体论文的10分钟视频（截止第8周），然后观看并评审其他同学的三个视频（感恩节之后提交）。

• 视频（7%）。 2分选取一个有实质内容的新近论文并给出扎实的解释；2分提供你自己的批评或见解——你同意或不同意的地方、局限性，或是它引出的有趣问题；2分附加价值，例如复现一项结果、运行小规模实验、与另一种方法对比、演示实现，或将其与实际智能体关联；1分清晰且引人入胜的呈现。
• 同伴互评（3%）。 每项1分，针对具体且有深度的反馈，超越“演示很好”这类泛泛之谈——指出一个优点、一个弱点或问题，以及一条具体建议。

• 项目［50%］
  • 提案［5%］
  • 中期报告［5%］
  • 中期演示［7%］
  • 最终提交［15%］
  • 最终系统演示［18%］
• 作业［20%］
  • HW1：构建一个智能体系统［10%］
  • HW2：评估一个智能体［10%］
• HW测验［15%］
  • 测验1（HW1之后）［7.5%］
  • 测验2（HW2之后）［7.5%］
• 论文视频与同伴互评［10%］
  • 论文视频［7%］
  • 同伴互评（3×1%）［3%］
• 参与度［5%］
  • 课堂讨论、项目团队协作与辅导课

学生将以小组为单位完成一个为期一学期（quarter）的项目，主题为**"用智能体改善斯坦福的生活"。**目标是构建一个协助斯坦福生活各方面的智能系统。项目创意示例：

• 课程大纲阅读器 — 提取截止日期并添加到您的日历
• 下一季度课程排程优化器
• 学术论文发现与摘要智能体
• 校园活动聚合与推荐器

• **第3周：**项目提案（1页）
• **第6周：**中期报告（1页）+ 中期演示 — 需要提供一个工作原型
• **第10周：**最终提交（1页）+ 最终系统演示（Demo日）

报告篇幅简短（写作部分1–2页，附录中可包含所需的结构化内容，例如智能体失败模式的示例）。