本文从关键词检索到Agent,详细介绍了知识库技术的发展脉络和不同阶段的核心能力。文章强调知识系统能力的逐步扩展,而非严格的技术替代顺序,并通过实例说明了如何根据实际问题类型选择合适的技术。理解每种技术所处位置比追逐“最新”技术更重要,建议新手程序员结合实际需求,逐步学习和应用相关知识库技术。
很多人谈知识库,会把一串技术名词排成升级路线:关键词检索、向量检索、RAG、知识图谱、GraphRAG、LLM Wiki、本体论,最后是 Agent。
这条路线有参考价值,但不是严格的技术替代顺序。它更像知识系统逐步增加能力的过程:先能找到资料,再能理解语义和关系,进一步积累可复用的知识,最后在规则约束下执行任务。
不同技术解决的问题并不相同。一个生产系统可能同时保留全文检索、向量检索、知识图谱和业务语义模型;也可能只用其中一两种。理解每种技术处在什么位置,比判断哪种“最新”更重要。
先看全景:知识系统增加了哪些能力?
可以把技术脉络概括为:
关键词检索 → 全文搜索与索引 → 向量检索 → RAG → 混合检索与重排序 → 知识图谱与 GraphRAG → LLM Wiki → 本体论与语义层 → Agent
这并不代表每个系统都要依次经过这些阶段。它表示知识系统在不同方向上扩展能力:
| 阶段 | 增加的能力 | 典型问题 |
|---|---|---|
| 关键词检索 | 匹配明确词语 | “文档里有没有这句话?” |
| 全文搜索与索引 | 搜索大规模文本并利用字段筛选 | “哪些资料包含这些词,且属于这个部门?” |
| 向量检索 | 按语义相似度找文本 | “没有用同样的词,能否找到相关内容?” |
| RAG | 把检索结果交给模型生成回答 | “能否根据公司资料回答问题并引用依据?” |
| 混合检索与重排序 | 结合多种召回方式,优化候选结果次序 | “怎样提高召回率和最终上下文相关性?” |
| 知识图谱与 GraphRAG | 表达实体关系,并沿关系查找信息 | “这个项目、客户、合同和产品如何关联?” |
| LLM Wiki | 把新资料融入可持续更新的知识页面 | “能否复用之前整理出的跨文档结论?” |
| 本体论与语义层 | 明确业务概念、关系和约束 | “不同系统里的‘客户’究竟是不是同一个概念?” |
| Agent | 让模型调用工具并完成流程 | “能否查状态、核权限并执行下一步操作?” |
这张表是能力地图,不是架构清单。每一层都可能和其他层组合。
- 关键词检索:从“记得文件名”到“搜得到词”
最基础的知识库,就是文件和目录。内容主要由人浏览,查找依赖文件名、目录结构和个人记忆。
关键词检索把查找变成了可操作的查询:输入“差旅报销”“合同审批”,系统返回包含这些词的页面或文档。全文搜索引擎进一步使用倒排索引等结构,在大规模文本中高效定位词项,也可以结合标题、时间、作者、部门等字段过滤。
它的优点是结果容易解释:文档为什么命中,通常能指出匹配词语。但词面匹配有边界:
- 搜“客户流失”,可能找不到写着“用户停止续约”的材料。
- 同一个词可能在不同文档中含义不同。
- 关键字写得不对,相关资料就可能被漏掉。
关键词检索适合术语明确、目标清楚的查询,但它不擅长处理表达方式变化和隐含语义。
- 向量检索:从匹配词语到匹配语义
向量检索把文本转成向量,再按向量距离寻找语义上相近的内容。用户问“怎么申请出差”,即使资料写的是“差旅审批流程”,也有机会被找出来。
这扩展了搜索能力,但“语义相近”不等于“业务上正确”。比如“客户账号”“签约法人”和“联系人”可能在同一批文档里经常一起出现,向量检索可能把它们都认为相关,却不一定能判断问题具体指哪一种对象。
向量检索解决的是如何召回可能相关的文本,不是如何验证文本是否符合业务规则。
- RAG:检索结果进入模型上下文
RAG(Retrieval-Augmented Generation,检索增强生成)把外部检索和大模型生成结合起来:先从资料中检索相关内容,再将这些内容作为上下文交给模型回答。
RAG 让模型能够利用不断更新的私有资料,而不必每次都重新训练模型。但工程效果取决于整条链路:资料解析、切分、索引、召回、排序、上下文构造和答案生成都可能引入问题。
所以,RAG 答错不一定是模型“不会回答”。也可能是:
- 相关内容没有被检索出来;
- 切分时丢失了标题、表格结构或上下文;
- 多份材料彼此冲突,系统没有识别版本;
- 找到的是相似材料,但不适用于当前部门或场景;
- 模型把检索到的片段错误地拼接起来。
- 混合检索与重排序:改进 RAG 的召回和排序
生产级 RAG 往往不止用一种检索方法。常见做法包括:
- 关键词或 BM25 检索
擅长精确匹配术语、编号和专有名词。
- 向量检索
擅长召回语义相近的表达。
- 元数据过滤
按部门、权限、时间、文档类型等限制范围。
- 重排序(Reranking)
对初步召回的候选内容再次打分,挑出更适合放进上下文的片段。
- 查询改写与多路召回
把用户问题转成不同检索表达,扩大候选覆盖面。
这些手段主要改进“找什么、把什么排在前面”。它们很有价值,但仍然不能自动解决定义冲突:一个 CRM 的客户记录和一个合同中的签约主体,是否代表同一个企业实体,不能单靠排序得分决定。
- 知识图谱与 GraphRAG:让检索能沿着关系走
知识图谱用实体、属性和关系表示事实。
它适合回答需要结构化关联的问题,例如“这个客户有哪些订单”“某项目涉及哪些产品”。图谱可以来自数据库、业务系统,也可以从文档中抽取。它强调把“对象是什么、对象之间有什么事实关系”显式保存下来。
GraphRAG 则把图结构用于检索增强。以微软的实现为例,它会从文本中抽取实体和关系,构建图并生成社区摘要;查询时可以做面向具体实体的 Local Search,也可以通过社区报告回答全局性问题,同时仍提供基础搜索模式。
图检索扩展了 RAG 的关联能力,但图谱质量决定了它能否给出有用的关联。边的名字也不能自动解释业务含义:“负责”可能表示项目 Owner、技术负责人、财务负责人或法律责任人。若定义含糊,图能提供连接,却未必能提供正确解释。
- LLM Wiki:从每次检索重组,到持续整理知识
普通 RAG 通常在每次提问时,从原始资料中重新检索相关片段,再由模型组织答案。LLM Wiki 采用另一种思路:模型读入新资料后,持续更新一组互相链接、可供后续查询的知识页面。
例如,加入一份新报告时,系统可能:
保留原始报告作为来源;
写入报告摘要;
更新相关公司、产品或主题页面;
检查新材料是否与已有结论冲突;
更新索引或记录处理日志。
LLM Wiki 的重点是累积整理后的知识,而不只是累积原始文件。Karpathy 对这一模式的描述中,原始来源保持不变,Wiki 页面由模型维护,并通过结构说明文件约定知识库的组织方式和操作流程。
它特别适合个人研究、项目知识整理和规模适中的团队知识积累。不过,持久化的综合页面也会带来新的工程问题:来源能否追溯?旧结论如何更新?冲突由谁裁定?自动写入的错误会不会被后续内容继续引用?因此,LLM Wiki 可以与 RAG 并用:Wiki 提供整理后的知识,RAG 检索原始材料或对应证据。
- 本体论与语义层:统一业务概念和关系定义
当知识跨越多个系统和部门,系统可能遇到“同名不同义”和“异名同义”:
- CRM 的“客户”可能是销售账号;
- 合同中的“客户”可能是签约法人;
- 财务系统里的交易对象可能是付款主体;
- 销售人员口中的客户可能是联系人或商机。
本体论(Ontology)可以用来明确一个领域里的概念、属性、关系及其语义约束。以标准化的 OWL 本体语言为例,它能够定义类、个体、属性及其语义。
在企业系统中,本体或语义层可以约定:
- 一个订单由哪个角色下单、由谁付款;
- 哪些关系允许连接哪些对象;
- 不同来源系统中的字段如何映射到统一概念;
- 某个事实来自哪个系统、何时有效、由谁确认。
它与知识图谱的关系可以这样理解:
- 本体或语义模型定义概念和关系应该如何理解。
- 知识图谱记录具体对象及其事实。
本体论不是知识图谱的升级版,也不是所有 RAG 的必备前置。它适用于业务概念确实跨系统、跨部门,且统一语义能带来足够收益的场景。若只是查公司制度,直接引入一套庞大的本体模型可能得不偿失。
- Agent:从回答问题到调用工具和执行流程
Agent 在知识库演进中代表了另一种能力扩展:系统不只提供答案,还可能调用工具、查询业务状态、执行操作。
例如,“帮我处理这笔采购申请”可能涉及:
识别申请单与申请人;
查询预算和供应商信息;
检索采购制度;
判断审批规则和当前权限;
调用业务系统推进流程;
返回执行结果和依据。
这时,知识系统要提供的不只是相关段落,还包括对象身份、状态、关系、数据来源和业务规则。Agent 可以负责理解自然语言、规划步骤和调用工具;知识图谱、语义层、规则引擎和权限系统则提供可查询、可验证的业务上下文。
回答可以容忍一定的不确定性,执行操作则需要更明确的校验。因此,从 RAG 走向 Agent,系统必须更加重视权限、审计、来源和执行前校验。
这条技术路线不是瀑布式升级
前面的路线展示的是知识系统可能增加的能力,不代表企业必须从第一步一路建到最后一步。
实际架构经常是并行组合:
- 制度问答
全文搜索 + RAG,保留文档权限与引用。
- 跨文档研究
RAG + LLM Wiki,兼顾来源检索和持续综合。
- 客户与订单分析
结构化数据 + 知识图谱 + GraphRAG。
- 跨系统业务 Agent
语义层 + 业务 API + 权限校验 + 审计记录,必要时再结合 RAG。
LLM Wiki 不是 GraphRAG 的前一代或后一代;本体论也不是所有系统在 GraphRAG 后都要添加的模块。它们各自回应不同的工程需求。
怎么判断该引入哪种技术?
可以从问题类型开始,而不是从技术名词开始:
- 如果用户主要要找明确条款、编号或原文,先做好全文检索和元数据过滤。
- 如果用户用自然语言提问、资料表达方式不固定,考虑向量检索和 RAG。
- 如果问题需要从多份资料中关联实体和关系,评估知识图谱或 GraphRAG。
- 如果知识需要持续整理、跨材料形成可复用页面,尝试 Wiki 式知识编译,并保留来源和更新机制。
- 如果不同部门和系统对关键业务词定义不一,建立小范围、可治理的语义模型。
- 如果系统需要执行查询或操作,再增加 Agent、权限控制、业务规则和执行校验。
建议先选一个边界清晰、能衡量效果的场景,再逐步扩展。比如,从“客户—合同—订单”出发,先判断现有检索能否回答实际问题,再决定是否需要图关系、统一概念或 Agent 操作。不要为了技术完整而把每个组件都装上。
结语:知识库从搜索系统,走向可计算的知识基础设施
知识库技术的发展,核心不是一代技术淘汰上一代,而是系统逐渐能处理更复杂的知识问题:
关键词检索找到词,向量检索找到相似表达,RAG让模型利用外部资料,GraphRAG沿关系检索,LLM Wiki持续整理知识,本体论统一业务语义,Agent在规则约束下使用知识完成任务。
对技术人员来说,选型时可以记住三个问题:
知识以什么形式存在?文档、数据库记录、图结构,还是经过持续整理的页面?
系统要完成什么任务?搜索、问答、跨实体推理,还是执行流程?
结果如何验证和治理?来源、权限、版本、冲突和更新机制是否明确?
把这三个问题回答清楚,通常比单纯追逐“最新的知识库架构”更能帮助团队做出合适的技术选择。
大模型的知识又多又杂,到底怎么学?
做这行久了,被问最多的问题就一个:大模型的知识又多又杂,我到底先学啥?翻了一堆资料,看啥都像重点,结果啥都没学进去。今天把我自己一路摸出来的顺序捋一遍,零基础、应届生、转行的都适用。跟着走,至少方向不乱、不瞎忙,学完拿得出手。
第一阶段(10天):初阶应用
这一阶段就一个目标:把大模型真正"玩明白",不是只会聊天那种,而是能调教它、能用代码把大模型和业务接起来。
- 大模型 AI 能干什么?
- 大模型是怎样获得「智能」的?
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段(30天):高阶应用
这阶段正式进实战,目标很实在:做出两个能拿出手的东西——一个私有知识库,一个 agent 对话机器人。
为什么要做 RAG
搭建一个简单的 ChatPDF
检索的基础概念
什么是向量表示(Embeddings)
向量数据库与向量检索
基于向量检索的 RAG
搭建 RAG 系统的扩展知识
混合检索与 RAG-Fusion 简介
向量模型本地部署
…
走完这 30 天,Python 或 JavaScript 背景的基本能独立做一套 RAG 应用,简历上也敢写"大模型应用开发"了。
第三阶段(约20天):动手微调
学到这,你已经开始 “造” 模型了 —— 通过微调,搞出垂直领域的专用小模型。
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。
到此为止,大概2个月的时间。你从 “只会用” 变成 “能造” 的 AI 小子。那么你还想往下探索吗?
想要入局AI大模型赛道、抢占行业红利的朋友,微信扫描下方CSDN官方认证二维码,即可100%免费领取全套学习资料!
第四阶段(20天):商业闭环,部署落地
技术学完,落地才算数。这阶段带你搞明白大模型怎么真正跑起来、用起来。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身:基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例:如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
想要入坑大模型的朋友,给大家准备了一份2026 年最新 AI 大模型全套学习资料:
1、大模型系统化学习路线
2、大模型学习视频教程
3、大模型学习书籍&电子文档
4、AI大模型最新行业报告
5、大模型项目实战&配套源码
6、2026大模型大厂面试真题
7、为什么要学习大模型?
我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年,人才缺口已超百万,凸显培养不足。随着AI技术飞速发展,预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。
8、适合谁学?
- 传统后端 / Java / 前端开发,想转型 AI 应用
- 大学生、应届生,想拿更好的 offer
- 产品经理、运营,想武装职业竞争力
- 技术负责人,想给团队落地提效
学习是反人性的,但回报是真金白银。技术会更新,赛道会切换,但只要你先动手,机会就永远站在你这边。
9、这些资料真的有用吗?
这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理,现任上海殷泊信息科技CEO,其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证,服务航天科工、国家电网等1000+企业,以第一作者在IEEE Transactions发表论文50+篇,获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。
资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的技术人员,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。
想要入局AI大模型赛道、抢占行业红利的朋友,微信扫描下方CSDN官方认证二维码,即可100%免费领取全套学习资料!
好了,就写到这。路线是死的,人是活的,卡住了随时来问我。觉得有用就点个收藏,别让它进收藏夹吃灰——动起来比啥都强。