作为一个长期在AI行业摸爬滚打的从业者，我经常被朋友问到一个问题：“大家都在说大模型、参数、Token，这些词到底是什么？”问的人里有刚转行的同事，也有压根不写代码的运营、销售。说实话，外行第一次接触大模型术语，确实像走进一间黑屋子，满墙都是陌生的开关。但这年头，AI已经渗透到写周报、做PPT、画图、写代码的各个环节，哪怕你只是个普通用户，多懂几个术语，都不至于被各种营销话术带着走。

这篇内容我想了很久，最后决定不做那种“名词从A到Z排列”的字典。那样看着很全，实际上看完就忘。我会按照“一个模型从出生到使用”的主线来梳理术语：先搞清楚它是什么，再讲它怎么学会技能，接着聊聊它怎么生成回答，最后说说我们日常使用时碰到的高频词。这样大家看的不是散装知识点，而是一条完整的逻辑链。哪怕你完全没有技术背景，也能顺着这条线把AI世界的地图拼出来。

1. 绕不开的地基词：模型、大模型和参数量

1.1 到底什么是“模型”

先说最底层的“模型”。在AI语境里，模型本质上就是一个“输入到输出的映射函数”：你给它一段文字、一张图片，它通过内部的计算规则，给你一段新的文字、一张新的图片或一个判断。

听起来有点抽象？我用生活类比来解释：模型就像一个学了十几年菜谱的厨师。你给他“番茄、鸡蛋”这些食材，他按照自己的“经验”和“手法”，端出一盘番茄炒蛋。他的厨艺，就是他脑子里那套复杂的映射规则。AI模型也一样，只不过它处理的不只是食材，而是文字、图像、声音等数字化信息。所谓的“训练”，其实就是不断调整这套映射规则，让它输出得越来越像人类期望的结果。

1.2 大模型的“大”到底指什么

“大模型”和“模型”的区别，主要就在“大”字上。这个“大”有两个层面。

第一层是参数量大。参数可以理解为模型内部的旋钮和开关，数量越多，模型能记忆的模式就越复杂。传统的小模型可能只有几亿参数，而如今主流的大模型动辄几百亿、上千亿参数。参数量的膨胀，让模型有能力捕捉语言中非常细微的规律。

第二层是训练数据量大。大模型训练时“读”过的文本量，往往相当于整个互联网的公开文本集合。它见过太多人类表达方式，所以能很好地理解并模仿自然语言。你可以把大模型想象成一个读完了海量书籍的人：它未必事事精通，但在语言这件事上，它非常“见多识广”。

1.3 参数量不是越大越好

参数多确实能提升模型的上限，但代价也很直接：训练成本高、推理速度慢、部署时需要更大的显存。很多团队陷入“堆参数”的军备竞赛，可实际落地时发现，一个千亿参数的模型跑起来又慢又贵，还不如一个精心调教过的百亿模型实用。

我个人见过不少项目，一开始迷信大参数，结果上线后延迟和成本双双爆表，最后只能匆忙做裁剪和量化。我的建议是：选模型之前先想清楚场景。如果只是做客服问答，中小型模型完全够用；如果要处理复杂的逻辑推理或长文本生成，再考虑更大体量的模型。

2. 模型是怎么“学会”的：训练过程的核心术语

2.1 预训练：大模型的“通识教育”

预训练是整个大模型体系里最重要的阶段，也是成本最高的阶段。简单说，就是让模型阅读海量文本，自己学会“填空”或“预测下一个词”。

比如给模型一句话：“今天天气真___”，模型要根据前面的内容预测后面最可能出现的词。通过无数次这样的猜测和纠错，它逐渐学会了语法、事实知识、推理模式，甚至一些跨越文本的常识。这个过程叫自监督学习：不需要人工标注，文本本身就是学习信号，所以能把互联网上的数据都利用起来。

预训练结束后，模型就像一个受过完整通识教育的毕业生。它“上知天文下知地理”，但还不擅长得体地和人对话——你问它问题，它可能会答非所问，或者陷入混乱。于是需要下一个阶段：微调。

2.2 微调和指令微调：让模型“学会听指令”

微调，是在预训练模型的基础上，用一批有标注的数据继续训练，让它适应特定任务。比如你想做一个法律问答助手，就准备好“问题-标准答案”对，在通用模型上继续训练。这相当于让通识教育的毕业生去上法律专业课，把知识树往特定方向修剪。

更进阶的叫指令微调。训练数据不再是普通问答，而是“指令-回答”的结构：“请把这段话翻译成英文”“请总结这篇文章的要点”。模型通过大量类似样本学到：人类用自然语言给我下达指令时，我应该用对应的格式和内容回应。这也是今天ChatGPT类产品能如此听话的主要原因。

值得注意的是，从预训练到微调，并非改了模型里某一个具体模块，而是在所有参数上做了细微修改。它改变的不是某一个“知识块”，而是整个网络对输入信号的反应偏好。

2.3 反向传播、梯度下降、学习率

这三个术语经常出现在技术文章里，小白看到头大。我用一个简单方式来解释。

想象你蒙着眼睛在山谷里寻找最低点，梯度就是你脚下的斜坡方向，它告诉你“往这边走会更低”。梯度下降就是沿着斜坡最陡的方向一步步往下挪。每一步迈多大，就是学习率。步子太大会跨越最低点，来回震荡；步子太小则训练极慢。

反向传播就更深一层：模型输出错误时，系统会把错误“传回”网络的每一层，计算出每个参数应该往哪个方向调多少。它就像老师批改试卷后，把分数落差反馈给每个学生，让学生知道自己哪道题错、哪里概念没掌握。这些小参数调整累积起来，模型就会慢慢变强。

3. 模型上线后无处不在的词：推理、Token和上下文窗口

3.1 Token：大模型眼里的“语言颗粒”

很多新手第一次听说Token都懵了。ChatGPT动不动就让你看“消耗了多少Token”，翻译软件按Token收费，API文档里也全是Token。

其实Token就是模型眼里的最小语言单位，可以把它理解为“词的碎片”。英文里一个词通常拆成几个Token，中文里一个汉字可能是一个Token，也可能两个字合成一个Token。模型读你输入的文本，先把整段话切成一串Token，再基于Token做计算。

我举个例子：“人工智能”这四个字，可能被切分为“人工”“智能”两个Token，也可能被切成一个Token，具体取决于分词器。所以Token数量并不等于字数，更不等于字符数。日常使用中，我们只要知道：Token越少，费用越低，响应越快。在写提示词时，尽量简洁，避免废话，这既是省钱技巧，也是提升回复速度的技巧。

3.2 上下文窗口：模型能“看到”多远

上下文窗口，官方定义是模型能一次性处理的Token数量上限。我更喜欢把它理解成模型的“短期工作台”：你和它对话时，之前的内容会放在这个工作台上，作为它生成下文的参考。

假设窗口长度是8K Token，那你和模型对话的总长度，包括你发的所有消息、模型生成过的所有回复，都不能超过这个数。一旦超过，最早的内容就会被“遗忘”，模型会像金鱼一样忘记你们几分钟前聊了什么。

实际使用中这个限制很折磨人。想让它基于一个几万字文档回答问题？要么先做摘要压缩，要么用专门的长文本模型，要么走我后面会讲的RAG方案，把文档拆开按需检索。

3.3 推理和Transformer

模型“学会”之后，真正干活的过程叫推理：输入一段文本，模型逐Token地预测下一个词，再把手里的结果当作新的输入，继续预测下一个词，直到输出结束。这就像一个接龙游戏，模型每一步只预测一个Token，但因为速度极快，几千个字瞬间就能蹦出来。

支撑这种接龙式能力的底层结构，是Transformer架构。这个结构有一个关键模块叫注意力机制，它让模型在处理一个词时，能同时关注句子里其他词与它的关系。比如看到“它”这个代词，注意力机制会帮助模型搞清楚“它”到底指的是猫还是椅子。正是这样的注意力建模，让大模型在理解长距离依赖上的能力远超之前的循环神经网络。这个架构本身不需要小白深挖，但它解释了一个现象：为什么大模型在长文、复杂逻辑任务上比老一代AI强那么多。

4. 你真正会动手调的参数：温度、Top-p和提示词

4.1 温度，大模型的“想象力”调节器

如果你是普通用户，一般不直接看到温度，但很多API和AI工具里会有这个参数。它的作用非常直观：控制生成文本的随机性。

温度低，比如0.1，模型每次都会挑最可能的词，输出稳定、保守，适合翻译、代码生成这类需要准确性的场景。温度高，比如0.9，模型会更愿意选概率稍低但更有创意的词，输出多样化，适合写故事、头脑风暴。

打个比方：同样面对“请写一句情话”，低温模型会写出“我喜欢你”，高温模型可能写出“你是我的深夜浏览器缓存，每次打开都是惊喜”。温度不是非调不可，但玩透了它，你能明显感受到AI的性格切换。实际项目中，我的经验是：代码和数据处理任务用0到0.3，常规问答用0.5到0.7，创意类任务再拉高到0.8以上。

4.2 Top-p：另一把随机制动阀

Top-p是另一个控制随机的参数，它和温度经常一起出现。它的意思是：只从累计概率达到p的那些候选词里抽一个。比如Top-p=0.9，就只考虑累计概率前90%的候选词，其余概率太低的“生僻选项”直接排除。

为什么有了温度还要Top-p？因为温度是作用在所有词的概率分布上，整体放大或缩小差异；Top-p则更像一刀切的过滤器，直接淘汰概率太低的词，避免模型偶尔蹦出毫无关联的怪词。很多框架建议把温度调高、Top-p调低一起用：既能增加多样性，又保证不跑飞。实际效果要看场景，我一般先用默认值跑一轮，再根据结果微调，很少上来就魔改参数。

4.3 提示词：和AI打交道最重要的“姿势”

提示词，英文叫Prompt，就是你输入给模型的那段话。它听起来不起眼，却是决定输出质量的头号因素。很多人抱怨AI回答“傻”，大部分时候是提示词没写好。

提示词有几个常见技巧：一是给足背景，比如“你是一位擅长儿童心理学的老师”，模型会按这个角色调整语气和知识侧重；二是给出约束，比如“请用三个要点回答，每个要点不超过50字”，把格式框死；三是给它思考路径，比如“先分析问题，再列出解决方案，最后做总结”。这些技巧被统称为提示工程，在一些公司已经像文案能力一样被视为基本功。

别小看提示词。我见过一个测试，同一份长文档，用模糊的问法，AI回答满天飞；用结构化提示词，AI能抽出清晰的表格和行动项。与其花大价钱微调模型，先花半小时优化提示词往往更容易见效。

5. 生产力密匙：多模态、RAG和Agent

5.1 多模态：从只看文字到眼观六路

早期大模型只能处理文本，但现在越来越多模型支持多模态输入：你能把图片、PDF、音频、视频直接丢给它。多模态模型会把图像切成视觉Token，把声音转成特征序列，再与文字信息一同建模。

它带来的改变是颠覆性的。以前你想让AI看一张报表截图，得先手动把数字打出来；现在直接把图丢进去，它不仅能读出数字，还能分析趋势、标出异常。办公场景里，多模态意味着PDF扫描件、白板照片、微信截图都能直接变成可处理的信息源。认识“多模态”这个词，你就知道现在AI已经不止是聊天机器人，而是能看、能听、能说的综合处理器。

5.2 RAG：给模型装上“外接硬盘”

RAG全称是检索增强生成，全称不重要，理解用途最重要。大模型的知识停留在训练那一刻，今年的事情它不知道；而且它有时候会一本正经地胡说八道。RAG就是解决这两个问题的成熟方案。

思路很简单：你在问模型之前，先从外部文档库里检索出与问题相关的内容片段，把片段连同问题一起丢给模型，让它基于这些片段回答。比如做一个企业知识库机器人，员工问“年假怎么休”，系统先去公司制度文档里搜索“年假”，把相关条款找出来拼进提示词，模型再照着条款回答。这样答案有依据、可追溯，还不需要重新训练模型。

我经常碰到人问：“我应该用RAG还是微调？”我的判断标准是：如果问题偏向“事实查找”和“知识回顾”，比如查制度、查手册、查历史记录，RAG更合适；如果问题偏向“风格模仿”和“技能塑造”，比如让模型模仿特定作家文风、变成特定领域的专业顾问，微调更合适。两者也能结合，先用微调塑造能力和风格，再用RAG补充实时知识。

5.3 Agent：让模型从“答题”到“办事”

Agent是近几年最火的方向，没有之一。大模型本身只能生成文字，但Agent把它和工具连接起来：模型看到你的指令，自己决定调用哪个工具、拿到结果后继续推理，再触发下一步动作。

比如你对Agent说“帮我订一家适合庆祝纪念日的餐厅”，Agent可能会先调用搜索工具查附近的餐厅，再用地图工具看距离评分，最后调用日历工具确认你的空闲时间，把筛选结果汇总给你。为了做到这件事，模型需要具备规划能力和工具调用能力，每次调用的输入输出都以特定格式封装，模型通过推理来决定下一步。

理解Agent，你就会明白为什么各家都在推“AI助理”。它本质上把大模型从“被动应答”变成了“主动行动”。当然，Agent的稳定性目前还是软肋，步骤越多越容易出错，生产环境里通常需要人为兜底。

5.4 微调、RAG和Agent，三兄弟分工

很多小白把三者混在一起。我做个表格帮大家理清楚：

一句话总结：微调改变的是模型的身手，RAG改变的是模型手里的资料，Agent改变的是模型干活的姿势。

6. 新手最容易踩的观念坑

6.1 开源模型不等于免费能用

现在很多开源大模型可以下载到本地运行，这被很多人理解为“完全免费”。严格说不全对：模型权重免费，但你要运行它，需要高性能显卡和足够的显存。一个70B级别的模型，用消费级显卡基本跑不动，得用多张专业卡，或者做量化压缩。

更实际的问题是部署后的使用成本和升级维护成本。本地部署的好处是数据不出内网、隐私可控、可按需定制；坏处是硬件投入和运维成本不低。中小团队如果隐私要求没那么高，直接用API按量付费反而更划算。选型前一定要把一个月调用量、响应速度、硬件成本都列出来算一笔账。

6.2 榜单分数高，不等于用起来好

很多模型发布时都会带上一串刷榜成绩：某某数据集得分第一、推理能力超越某大厂。这些数字在小范围内有意义，但你真正使用时会有落差。

原因在于评测集和真实用户需求往往存在偏差：评测问题一般有确定答案，而日常使用中很多问题开放且模糊；评测偏重单轮问答，现实中却是多轮对话，还需要不断修正。我踩过不少次坑：在某榜单上排名靠前的模型，实际处理中文长文和代码调试时表现很平庸；反而是排名稍低的模型，在具体场景里更顺手。

所以我的建议是：选模型前一定准备一批自己业务里的真实问题和典型数据，做成一个小测试集，让候选模型跑一遍，拿实际输出评分。不要只盯公开榜单，更不要迷信“最强”两个字。

6.3 “AI幻觉”是真问题，但别因噎废食

模型有时会生成看起来有理有据、实际是编造的内容，这叫幻觉。新手第一次碰见时往往会很生气，觉得AI“骗人”。其实模型并不具备欺骗的意图，它只是在概率预测过程中选了一句流利的回答，没有能力验证事实。

降低幻觉最有效的办法，就是我在前面提到的RAG：给模型提供外部证据，让它基于证据作答。其次是在提示词里强调“如果不确定就说不知道”，这招简单但有效。警惕幻觉是必要的，但完全拒绝使用AI也会错失效率红利。正确姿势是：把AI当需要复核的实习生，重要信息一定要人工抽查和交叉验证。

最后再分享一个实际体会

在我接触大模型的头一两年里，我也曾被一堆术语劝退过。后来我发现一个笨办法很管用：每碰见一个新的专业名词，都问自己三个问题——它是干什么的？它解决了什么问题？它让我多花了多少钱或省了多少事？带着这三个问题去查资料，术语就变成了有生命的工具。

如果你刚入门，别急着把最新最深的论文啃完，先把我上面梳理的这条主线捋顺：模型是映射器，训练是让它变聪明的过程，Token和上下文决定了它的输入方式，温度和提示词是你控制它的方向盘，RAG和Agent则是它干活的左右手。把这些概念串成一个故事，再去理解任何AI相关的新词，你都会发现自己有了挂靠的坐标。

AI世界更新确实快，但核心底座其实很稳。把这篇文章里的每一个词都消化掉之后，下次再有人跟你甩“上下文增强”“微调”“Agent”之类的词，你不仅能听懂，还能判断对方到底是真专业还是在包装概念。这就够了。