本文通过12张图详细解析了AI Agent的核心概念,涵盖了从大模型、Token、上下文窗口等基础要素,到Prompt、幻觉、RAG、Tool Calling、MCP、Skill、Memory、Workflow、Agent和ReAct等进阶技术的原理和应用。文章旨在帮助读者全面理解AI应用的工作机制,并提供了实用的代码示例和实战指导,适合想要深入学习Java AI开发的读者参考。
这次放下了代码,用12 张图来整理 AI 应用的核心概念:它是什么样的,可以解决什么问题。
- 大模型:理解和生成的基础
大模型根据输入生成文本、代码或工具调用请求
大语言模型(LLM)从大量的数据中学习语言和知识的规律,按照输入来生成文本、代码或者工具调用请求。
例如“帮我取消订单”,模型能够理解意图,而查询、取消操作则需要通过应用连接到真实的系统。
- Token:模型处理文本的基本单位
文本经分词器转换为 Token,再映射为数字编号
文本首先被分词器切分成Token,然后用数字编号表示。一个 Token 可以是一个字、一个词语或者词语的一部分。
字数和 Token 数之间没有固定的比值关系。上下文容量以及很多 API 的计费都是以 Token 为单位的。
同一句话用不同的分词器来分词,得到的结果以及 Token 的数量都可能不一样。
- 上下文窗口:这一轮可以容纳多少信息
上下文窗口容纳当前输入,并为输出预留空间
上下文窗口决定模型这一轮可以容纳多少信息:任务要求、用户问题、相关的过往历史、检索到的信息以及工具的结果,一般还会留出一定的输出空间。
历史记录要取出并放入到当前输入中,模型才可以使用。例如用户上一次给了订单号,这一次又问“发货了吗”,那么应用就应当把相关的过往信息一并提供给模型。
- Prompt:告诉模型这次要怎么操作
Prompt 向模型交代任务、背景和输出要求
Prompt 交代任务、背景以及输出的要求,可以用多条不同角色的消息来表示。要求越具体,模型就越容易理解这次要做什么。
总结下面的退款规则,只保留申请条件和到账时间。
这句话也同时限制了需要处理的材料以及需要保留的信息,比“帮我总结”更易得到符合预期的回答。
涉及权限或者格式等硬性规定的时候,仍然要进行代码校验。
- 幻觉:说得像真的一样,但是事实并不对
幻觉示例:资料未说明到账时间,回答却给出确定时限
幻觉就是模型生成了没有根据或者和事实相悖的内容。比如说资料上没有提到退款的时间,但是回答却肯定地说“24 小时到账”。
补充资料、核实来源和校对结果可以降低风险,但是回答流畅也有可能出错。
- RAG:先查资料,然后生成答案
RAG 先检索相关资料,再结合问题生成回答
RAG(Retrieval-Augmented Generation)就是检索增强生成:先查找相关的资料,然后结合资料和问题来生成答案。比如说先查一下公司退货政策,再回答定制商品可以退货吗。
检索可以使用关键词、向量或者混合的方式。回答的质量和资料是否找对、模型是否使用得当有关。
- Tool Calling:使模型发出外部请求
工具调用由模型提出请求,应用校验执行并回填结果
应用给模型提供工具说明,模型返回工具名称和参数,然后由应用进行校验、执行,并把结果交给模型。
例如查询订单工具接收订单号,返回发货状态。模型提出调用,代码执行操作并且控制权限。
拿到工具的结果之后,模型可以对用户进行回复,也可以根据结果再请求其他的工具。
- MCP:统一连接工具以及数据
MCP 为应用连接外部工具、资源和提示模板提供统一方式
MCP(Model Context Protocol)就是模型上下文协议,用来统一 AI 应用与外部工具、资源以及提示模板之间的连接方式。
例如取件服务可以利用 MCP 提供预约工具,那么支持 MCP 协议的应用就可以接入了。Tool Calling 负责发起工具请求,MCP 负责建立与外部能力之间的连接;本地工具也可以直接调用。
- Skill:给特定的任务加上做事的方法
Skill 以 SKILL.md 为核心,按需附带脚本、参考资料和模板
Skill 用文件夹来封装某类任务的指令和资源,核心文件为SKILL.md,可以附加脚本、参考资料和模板,由支持它的应用程序根据需要加载。
退货 Skill 的规定是先查订单,再核对条件,最后生成申请。Tool 提供动作,Skill 提供方法,也可以只提供写作或者审查的标准。
- Memory:把要记住的信息留到后面
Memory 保存需要的信息,再按需取回到当前上下文
Memory 负责保存以及取回之后所需要的资料。
- •短期记忆:服务当前会话,例如正在处理订单
A1003。 - •长期记忆:跨会话保持偏好、事实或者经验,例如用户偏好的通知方式。
可以用消息、摘要、结构化数据或者向量检索来实现,取回之后再放入到当前上下文中。
比如说把“偏好短信通知”作为一个字段来保存,然后在处理订单的时候再读取它,就可以使用这个偏好了。
- Workflow:事先规划好任务的流程
退货工作流示例:代码预先安排步骤和执行条件
Workflow 是由开发者事先设定好步骤、分支以及执行条件的。退货流程如下:
查订单 → 核对条件 → 用户确认 → 提交申请
流程可以调用模型,也可以并行或者循环,流转规则主要由代码来控制。
比如说不符合退货条件的话要说明原因,用户确认同意之后再提交申请,这些分支都可以提前写入流程。
- Agent 和 ReAct:根据反馈继续行动
Agent 根据动作结果继续判断,并在可以结束时回复
Agent 由模型参与来决定下一步的动作,调用工具并且根据反馈来推进目标。例如在订单号缺失的情况下先询问,查到没有发货之后再选择取消工具。
ReAct用推理和行动交替的方式:判断 → 执行 → 观察 → 再判断,这是构建 Agent 的一种方式。
Workflow 和 Agent 可以一起用,比如退货的主要流程由代码来控制,“查清用户的问题”则由 Agent 根据反馈来灵活处理。自主执行还需要权限、预算以及停止条件。
最后
我在一线科技企业深耕十二载,见证过太多因技术更迭而跃迁的案例。那些率先拥抱 AI 的同事,早已在效率与薪资上形成代际优势,我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。
我整理出这套 AI 大模型突围资料包:
- ✅AI大模型学习路线图
- ✅Agent行业报告
- ✅100集大模型视频教程
- ✅大模型书籍PDF
- ✅DeepSeek教程
- ✅AI产品经理入门资料
完整的大模型学习和面试资料已经上传带到CSDN的官方了,有需要的朋友可以扫描下方二维码免费领取【保证100%免费】👇👇
为什么说现在普通人就业/升职加薪的首选是AI大模型?
人工智能技术的爆发式增长,正以不可逆转之势重塑就业市场版图。从DeepSeek等国产大模型引发的科技圈热议,到全国两会关于AI产业发展的政策聚焦,再到招聘会上排起的长队,AI的热度已从技术领域渗透到就业市场的每一个角落。
智联招聘的最新数据给出了最直观的印证:2025年2月,AI领域求职人数同比增幅突破200%,远超其他行业平均水平;整个人工智能行业的求职增速达到33.4%,位居各行业榜首,其中人工智能工程师岗位的求职热度更是飙升69.6%。
AI产业的快速扩张,也让人才供需矛盾愈发突出。麦肯锡报告明确预测,到2030年中国AI专业人才需求将达600万人,人才缺口可能高达400万人,这一缺口不仅存在于核心技术领域,更蔓延至产业应用的各个环节。
资料包有什么?
①从入门到精通的全套视频教程⑤⑥
包含提示词工程、RAG、Agent等技术点
② AI大模型学习路线图(还有视频解说)
全过程AI大模型学习路线
③学习电子书籍和技术文档
市面上的大模型书籍确实太多了,这些是我精选出来的
④各大厂大模型面试题目详解
⑤ 这些资料真的有用吗?
这份资料由我和鲁为民博士共同整理,鲁为民博士先后获得了北京清华大学学士和美国加州理工学院博士学位,在包括IEEE Transactions等学术期刊和诸多国际会议上发表了超过50篇学术论文、取得了多项美国和中国发明专利,同时还斩获了吴文俊人工智能科学技术奖。目前我正在和鲁博士共同进行人工智能的研究。
所有的视频教程由智泊AI老师录制,且资料与智泊AI共享,相互补充。这份学习大礼包应该算是现在最全面的大模型学习资料了。
资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。
智泊AI始终秉持着“让每个人平等享受到优质教育资源”的育人理念,通过动态追踪大模型开发、数据标注伦理等前沿技术趋势,构建起"前沿课程+智能实训+精准就业"的高效培养体系。
课堂上不光教理论,还带着学员做了十多个真实项目。学员要亲自上手搞数据清洗、模型调优这些硬核操作,把课本知识变成真本事!
如果说你是以下人群中的其中一类,都可以来智泊AI学习人工智能,找到高薪工作,一次小小的“投资”换来的是终身受益!
应届毕业生:无工作经验但想要系统学习AI大模型技术,期待通过实战项目掌握核心技术。
零基础转型:非技术背景但关注AI应用场景,计划通过低代码工具实现“AI+行业”跨界。
业务赋能 突破瓶颈:传统开发者(Java/前端等)学习Transformer架构与LangChain框架,向AI全栈工程师转型。
👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓**