本文针对AI应用开发工程师，即Agent工程师，详细阐述了其所需掌握的核心知识和技能。文章首先区分了模型侧与应用侧的区别，随后提出了"Agent = Model + Harness"的核心公式，并深入解析了Harness的六大模块：规划与编排、沙箱执行环境、技能与工具、记忆与上下文工程、系统提示词与护栏、可观测与反馈闭环。每个模块都详细介绍了需要学习的内容和技术组件。
一个公式（Agent = Model + Harness）、六个模块、一张技术组件地图。这篇文章讲的是应用开发这一侧，具体要装哪些知识。
- 引子：一个很典型的问题
上个月，一位工作了三年的 Java 读者给我发消息。
他说想转 AI 方向，已经学了两个月。我问他学到什么程度，他发来一份很长的笔记——Transformer 架构、注意力机制、LoRA 微调原理、LangChain 六大组件、RAG 的三种检索策略，标了重点，还写了批注。
我说，那你做个东西给我看看？
他停了一会儿，回我：
“我跟着教程跑通过几个 demo。但让我自己从零做一个，我不知道从哪开始。”
我问他这两个月在做什么。他说看视频、记笔记、读论文、收藏教程，“我想先把原理搞懂，再动手做”。
这个困惑我听过很多次。它既不是努力不够，也不是学不会——它是没分清"学 AI"这四个字里，到底包含了哪几件事。
因为"学 AI"实际上是两条方向不同的路：一条是研究模型本身，一条是把模型变成能干活的产品。这两条路需要的知识结构、训练方式、职业出口都不一样。
如果不先把这件事分开，就容易像这位读者一样：两种知识都碰了一点，但哪一条都没走到底。
这篇文章想讲清楚其中一条——AI 应用开发工程师，到底该学什么、按什么顺序学。
- 先分清两条路：模型侧 与 应用侧
行业里说"做 AI"，粗分是两个方向。
模型侧（算法工程师）
- 做什么
：预训练、微调、对齐（RLHF / DPO）、推理优化、模型评测
- 知识底座
：线性代数、概率统计、最优化、深度学习、分布式训练
- 工作方式
：读论文、跑实验、调超参、评估指标
- 特点
：门槛高、迭代周期长、算力成本大。但它是整个 AI 能力的源头——没有模型侧的持续进展，下游的应用侧无从谈起
应用侧（应用开发 / Agent 工程师）
- 做什么
：把模型能力接进真实业务，构建能完成多步任务的 Agent 系统
- 知识底座
：软件工程、系统设计、API 集成、并发与容错、可观测性
- 工作方式
：写代码、搭系统、做集成、跑评测、控成本
- 特点
：岗位数量多、迭代快、贴近业务。模型的能力最终要落到产品上，靠的就是这一侧
这两条路是分工关系，不是替代关系。
一个类比：模型侧像造发动机的人，应用侧像造整车的人。发动机决定了这辆车的性能上限，但一辆能上路的车，还需要传动、底盘、电控、安全系统。
选哪条，取决于你的底座和兴趣：
| 你的情况 | 更适合 |
|---|---|
| 数理基础扎实，喜欢读论文、做实验，能接受长周期 | 模型侧 |
| 工程能力强，喜欢做系统、拆需求、快速迭代 | 应用侧 |
| 想先就业、快速有产出，之后再决定深入方向 | 应用侧（本文主题） |
说明
走应用侧，不代表可以完全不懂模型。你需要理解模型的能力边界、上下文限制、概率特性、幻觉的成因——但这是"理解"层面的要求，不是"从零推导反向传播"层面的要求。这两者的差距很大。
- 应用侧的核心公式：Agent = Model + Harness
2026 年初，AI 工程圈给一个概念正式定了名：Agent Harness（智能体运行时 / 脚手架）。
这个公式的核心只有一行：
Agent = Model + Harness- Model
：大语言模型。提供推理、生成、判断。这一侧由模型厂商构建，你通过 API 使用。
- Harness
：包裹在模型外面的运行系统。负责调度、执行、记忆、约束、观测。这一侧是应用工程师的主战场。
一个很好懂的类比：
| 计算机 | AI Agent | 主要由谁负责 |
|---|---|---|
| CPU（提供算力） | Model（提供推理） | 芯片 / 模型厂商 |
| 操作系统（调度、内存管理、I/O 驱动） | Harness（调度、记忆、工具、安全） | 应用工程师 |
| 你写的应用程序 | 具体的 Agent | 应用工程师 |
这里有一个对应用工程师很关键的认知：
一个 Agent 好不好用，往往不取决于换了哪个模型，而取决于 Harness 搭得怎么样。
同一个模型，换一套 Harness 架构，任务成功率可以差出好几倍——这一点在工程实践中被反复验证过。
这个公式的价值在于：它把"学 AI"从一片模糊的知识海洋，变成了六个可以逐个攻克的模块。
- Harness 六大模块：应用工程师的学习地图
一个完整的 Harness，由六个模块构成。下面逐个讲清楚：它解决什么问题、你要学什么、涉及哪些技术组件。
1规划与编排（Planning & Orchestration）
解决的问题：把一个大任务拆成可执行的小步骤，并管理它们的状态流转。
要学：
- 任务拆解
：把"做一份数据报表"拆成"读数据 → 清洗 → 算指标 → 画图 → 输出"
- 编排模式
：ReAct（推理与行动交替）、Plan-and-Execute（先规划再执行）
- 状态管理
：计划 → 执行 → 检查 → 修正的流转；失败后如何从断点恢复
技术组件：LangGraph、状态机、任务队列。
工程要点
不是所有任务都需要"自主规划"。流程确定的就写成固定流程——成本、延迟、稳定性都会更好。什么时候该让模型自主决策、什么时候该写死，这是编排环节的核心判断。
2沙箱执行环境（Sandbox）
解决的问题：让 Agent 真的能读写文件、运行代码，同时把风险限制在隔离环境里。
要学：
- Docker 基础
：容器、镜像、隔离
- Linux 常用命令
：Agent 的运行环境基本是 Linux
- 资源限制
：CPU、内存、网络、超时
技术组件：Docker、代码解释器、文件系统挂载、进程管理。
工程要点
模型会犯错——可能生成危险命令、可能死循环、可能吃光内存。沙箱是兜底：让它在隔离环境里犯错，而不是在你的生产机上。这一块看起来"不像 AI"，但它决定了 Agent 能不能稳定跑起来。
3技能与工具（Skills & Tools）
解决的问题：让 Agent 能调用外部能力。
要学：
- Function Calling
：模型输出一段 JSON 表示"我想调用这个函数、参数是这些"，真正执行函数的是你写的代码。理解这一点，才能理解整条工具链路的边界在哪。
- MCP 协议
：把"给 Agent 接工具"标准化，不用每接一个 API 就重写一遍集成逻辑。
- 工具设计
：参数校验、错误处理、返回值裁剪。
技术组件：Function Calling、MCP、OpenAPI Schema、参数校验库。
工程要点
工具返回的结果要有节制。一个搜索接口返回几千字原文直接塞回上下文，会挤占推理空间。返回前先裁剪或摘要，是工具设计里的常规动作。
4记忆与上下文工程（Memory & Context）
解决的问题：让 Agent 记住该记的、忘掉该忘的。
要学：
- 上下文工程
：模型能看到的窗口有限，要决定什么信息进、什么被压缩
- RAG（检索增强生成）
：文档切分、Embedding、向量数据库、混合检索、重排
- 上下文压缩
：长对话如何摘要，既保留关键信息又控制 token
技术组件：Embedding 模型、向量数据库（pgvector / Milvus / Qdrant）、检索器、重排模型。
工程要点
上下文管理本质是做减法。另外，RAG 擅长解决"知识缺失"型的问题，而推理层面的错误需要靠"检索 + 校验 + 兜底"的组合来处理。
5系统提示词与护栏（System Prompts & Guardrails）
解决的问题：告诉 Agent 能做什么、不能做什么。
要学：
- 角色与边界定义
：明确 Agent 的身份和能力范围
- 代码层约束
：写在提示词里的"不要删除文件"是建议，真正的约束要在代码里拦截
- Hooks 机制
：高风险动作前插入人工确认（如发送邮件、删除文件）
- 结构化输出
：用 JSON Schema 约束模型输出格式，便于程序解析
技术组件：Prompt 模板、结构化输出（JSON Schema）、权限校验、人工确认钩子。
工程要点
能用代码拦住的，就不要只靠提示词。安全规则要落在代码路径上。
6可观测与反馈闭环（Observability）
解决的问题：记录 Agent 做了什么，出错能复盘，改动能验证。
要学：
- 全链路 Trace
：每一步的输入、输出、工具调用
- 评测（Eval）
：建一个 10–20 个任务的小测试集，每次改动后跑一遍，看成功率、步数、成本
- 成本统计
：从第一天起统计每个任务的 token 消耗
技术组件：日志 / Trace、评测集、成本看板。
工程要点
单次跑通不等于可用。模型的输出有概率性，同一类任务换几次输入都能稳定得到可用结果，才算真正过关。另外，多轮 Agent 的 token 消耗是单次调用的几十倍，成本要提前纳入设计。
· · ·
六个模块到这里。它们不是"学完再做"的线性关系，而是搭建一个系统时需要同时考虑的六个侧面。
- 这些模块背后的技术组件
前面反复提到了一些名词。这一节把它们单独拎出来，一次讲清楚。
Function Calling（函数调用）
这是最容易被误解的一个概念。
很多人以为"Function Calling 是模型在执行函数"。实际流程是：
你把可用工具的描述（名称、用途、参数 Schema）随请求一起发给模型
模型判断需要调用哪个工具，输出一段 JSON（工具名 + 参数）
你的代码
解析这段 JSON，真正执行函数
你把执行结果回填给模型
模型基于结果继续推理，或者给出最终答复
模型负责"决定调什么"，你的代码负责"真正执行"和"错误处理"。把这条链路理解清楚，是 Agent 从"会聊天"到"能干活"的分界。
MCP（Model Context Protocol）
MCP 解决的是工具接入的标准化问题。
在没有 MCP 之前，每接一个外部服务（数据库、文件系统、第三方 API），都要写一套专用的集成代码。MCP 把这件事抽象成协议：工具方实现一个 Server，Agent 方作为 Client 连接，双方按统一格式交换能力描述和调用请求。
直接带来的好处：接新工具的成本大幅下降，工具可以跨 Agent 复用。
RAG（Retrieval-Augmented Generation，检索增强生成）
让 Agent 基于你自己的资料回答问题。完整链路：
离线（建立索引）：文档 → 切分 → 向量化 → 存入向量库
在线（每次问答）：提问 → 检索 → 重排 → 拼进上下文 → 模型生成
每一环都有可调的工程点：切分粒度、Embedding 模型选型、检索条数、是否加重排。
Embedding 与向量数据库
- Embedding
：把文本映射成一个向量，语义相近的文本，向量距离也近。这是"语义检索"的基础。
- 向量数据库
：负责存向量、做近邻检索。常见选择有 pgvector（已有 Postgres 时最省事）、Milvus、Qdrant 等。
对应用工程师来说，重点是会用、会评估检索效果，不需要自己训练 Embedding 模型。
沙箱与容器
Agent 要执行代码或操作文件时，放进隔离环境（通常是 Docker 容器）：限制资源、隔离文件系统、控制网络出口。这是 Agent 走向生产环境的前提条件。
上下文管理
包括窗口内的信息取舍、历史对话摘要、工具返回结果裁剪、多轮任务的状态持久化。这部分没有标准答案，更多依赖工程经验。
可观测与评测（Eval）
- Trace
：一次任务里每一步的输入输出都要能回看
- Eval
：用固定测试集衡量改动效果，而不是靠"感觉变好了"
- 成本
：token 数、调用次数、单任务成本
这三样合起来，是把 Agent 当成一个工程系统来维护的标志。
- 学习路径：四个阶段
前面讲的是"要学什么"，这一节讲"按什么顺序学"。
先说一个前提：理论教材和项目实践，是两种用途不同的地图。
- 教材 / 理论
是"知识地图"：它告诉你这个领域的全貌长什么样、边界在哪。作为参考体系，它很有价值。
- 项目实践
是"导航路线"：它决定你先走哪一段、下一步往哪拐。
两份地图配合使用效果最好：用项目带动具体知识点的深入，同时保持对整体框架的了解。
下面这条路径，是以"做出一个可用的 Agent"为目标倒推出来的顺序。
L0：先跑通（约 1 个月）
目标：手写一个最小的 Agent，先不用框架。
做什么：用原生 Python 调模型 API，实现一个最小循环：
用户提问 → 模型判断是否要调工具 → 调工具 → 结果回填 → 继续判断 → 给出答案
做一个能回答"今天天气"或者"读一个文件并总结"的小东西。
为什么先用原生 API：框架会替你处理很多细节。先用原生方式写一遍，你会知道框架到底帮你做了什么，后面用它的时候也更容易排查问题。
要学：Python 异步、JSON 处理、HTTP 请求、API 密钥管理、错误重试。
产出：一段 100 行左右、你能逐行解释的 Agent 代码。
L1：加能力（约 1 个月）
目标：让 Agent 真的有用。
做什么：
- 加 2–3 个真实工具（搜索、读数据库、调用一个你熟悉的业务 API）
- 加 RAG，让它基于一份真实文档回答问题
- 处理结构化输出与失败重试
要学：Function Calling、MCP、Embedding、向量数据库、RAG 全链路。
产出：一个解决真实问题的 Agent。痛点最好来自你自己的日常，而不是教程里的示例。
L2：工程化（约 2 个月）
目标：从"能跑"到"稳定地跑"。
做什么：
- 放进 Docker 沙箱
- 加日志、评测集、成本统计
- 加护栏：高风险动作前人工确认
- 处理超时、限流、工具报错
要学：Docker、Linux、日志设计、Eval 方法、成本核算。
产出：一个能长时间稳定运行、出错可复盘的 Agent。
为什么这一级重要
L2 是企业招聘时最看重的阶段。面试时，它直接区分了"做过玩具"和"做过系统"。
L3：优化与协作（约 2 个月）
目标：从单 Agent 走向多 Agent 协作，做性能与成本优化。
要学：多 Agent 编排、子 Agent 隔离、上下文压缩策略调优。
产出：一个你能讲清楚架构取舍的复杂系统。
建议：先把单 Agent 做扎实，再进入这一层。
一个时间参考：这条路径按每天投入 1–2 小时估算——这也是大多数在职学习和在校学习的真实节奏。从 L0 走到 L2、具备求职能力，大约需要 4 个月；继续走完 L3，总计约 6 个月。个体差异较大，这个区间仅供参考。
- 几个常见疑问
“要不要学数学和模型原理？”
要，但深度取决于你的方向。
- 应用工程师
：需要理解 token、上下文窗口、注意力机制的直觉、温度参数、幻觉的成因、模型擅长什么不擅长什么。理解到"知道为什么"这个程度即可。
- 算法工程师
：需要能手推公式、能读论文、能复现实验。
理解模型的边界，能帮你做出更好的工程决策——比如什么时候该用 RAG，而不是把资料全塞进上下文。
“要不要用框架？”
用，但建议先用原生 API 跑通一遍。
框架的价值是提效和工程规范；它的成本是抽象层带来的排查难度。知道底层发生了什么，用框架时会从容很多。
"要本地部署大模型
我当时给他的建议是：先停下来，用原生 Python 写一个 100 行的 Agent，让它能查天气。然后你会发现，你自然会想知道"它怎么记住上一轮说的话"“它怎么调用外部接口”“它出错了我怎么知道”——
这些问题的答案，就是接下来要学的全部内容。
知识在被需要的时候学，记得最牢。
大模型的知识又多又杂，到底怎么学？
做这行久了，被问最多的问题就一个：大模型的知识又多又杂，我到底先学啥？翻了一堆资料，看啥都像重点，结果啥都没学进去。今天把我自己一路摸出来的顺序捋一遍，零基础、应届生、转行的都适用。跟着走，至少方向不乱、不瞎忙，学完拿得出手。
第一阶段（10天）：初阶应用
这一阶段就一个目标：把大模型真正"玩明白"，不是只会聊天那种，而是能调教它、能用代码把大模型和业务接起来。
- 大模型 AI 能干什么？
- 大模型是怎样获得「智能」的？
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例：向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段（30天）：高阶应用
这阶段正式进实战，目标很实在：做出两个能拿出手的东西——一个私有知识库，一个 agent 对话机器人。
为什么要做 RAG
搭建一个简单的 ChatPDF
检索的基础概念
什么是向量表示（Embeddings）
向量数据库与向量检索
基于向量检索的 RAG
搭建 RAG 系统的扩展知识
混合检索与 RAG-Fusion 简介
向量模型本地部署
…
走完这 30 天，Python 或 JavaScript 背景的基本能独立做一套 RAG 应用，简历上也敢写"大模型应用开发"了。
第三阶段（约20天）：动手微调
学到这，你已经开始 “造” 模型了 —— 通过微调，搞出垂直领域的专用小模型。
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2：手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。
到此为止，大概2个月的时间。你从 “只会用” 变成 “能造” 的 AI 小子。那么你还想往下探索吗？
想要入局AI大模型赛道、抢占行业红利的朋友，微信扫描下方CSDN官方认证二维码，即可100%免费领取全套学习资料！
第四阶段（20天）：商业闭环，部署落地
技术学完，落地才算数。这阶段带你搞明白大模型怎么真正跑起来、用起来。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身：基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例：如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
想要入坑大模型的朋友，给大家准备了一份2026 年最新 AI 大模型全套学习资料：
1、大模型系统化学习路线
2、大模型学习视频教程
3、大模型学习书籍&电子文档
4、AI大模型最新行业报告
5、大模型项目实战&配套源码
6、2026大模型大厂面试真题
7、为什么要学习大模型？
我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年，人才缺口已超百万，凸显培养不足。随着AI技术飞速发展，预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。
8、适合谁学？
- 传统后端 / Java / 前端开发，想转型 AI 应用
- 大学生、应届生，想拿更好的 offer
- 产品经理、运营，想武装职业竞争力
- 技术负责人，想给团队落地提效
学习是反人性的，但回报是真金白银。技术会更新，赛道会切换，但只要你先动手，机会就永远站在你这边。
9、这些资料真的有用吗？
这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理，现任上海殷泊信息科技CEO，其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证，服务航天科工、国家电网等1000+企业，以第一作者在IEEE Transactions发表论文50+篇，获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。
资料内容涵盖了从入门到进阶的各类视频教程和实战项目，无论你是小白还是有些技术基础的技术人员，这份资料都绝对能帮助你提升薪资待遇，转行大模型岗位。
想要入局AI大模型赛道、抢占行业红利的朋友，微信扫描下方CSDN官方认证二维码，即可100%免费领取全套学习资料！
好了，就写到这。路线是死的，人是活的，卡住了随时来问我。觉得有用就点个收藏，别让它进收藏夹吃灰——动起来比啥都强。
)
