从零基础啃大模型考点，最怕的不是难度，而是不知道考什么、从哪里下手。我也是带过不少转行学员之后才发现，大部分人在"大模型LLM是什么""上下文长度到底指什么"这类基础概念上就会卡住，后面越学越乱。这篇文章按考点体系来拆，把零基础必须掌握的理论、部署、微调、API应用和安全测评逐块讲透，每个考点都配了容易出题的角度和实操中的坑，希望能帮你在最短时间内搭起一张完整的大模型知识框架。

1. 大模型零基础考点地图：先搞清楚考试范围再学

1.1 零基础考生最容易败在"概念混淆"

大模型技术看上去包罗万象，但真正考核零基础的内容其实就几大块：基础理论、训练机制、部署推理、微调应用、安全测评。我先说一个最常见的误区，很多人把"大模型"和"聊天机器人"划等号，考试时一碰到"大模型LLM底层原理"就发懵。大模型的本质是一个基于深度学习的概率模型，它学习的是人类语言中海量的词与词、句与句之间的统计规律，你在聊天框里看到的回复，本质上是模型在逐个预测"下一个最可能的词"。

这里必须掌握三个核心术语：

• Token（词元）：模型处理文本的最小单位，可以是一个词、半个词或一个标点。考题经常问"1个Token大概等于多少个汉字"，一般情况下，一个英文单词约等于1个Token，一个汉字约等于1到2个Token。上下文长度指的就是模型能同时处理的Token总数。
• 上下文长度：模型单次能"记住"的最大Token数。上下文越长，模型能参考的资料越多，但推理速度和显存占用也会同步上升。目前主流开源模型的上下文从32K到128K不等，部分已经到256K。
• 参数规模：模型内部可学习的权重数量。70亿（7B）参数、130亿（13B）参数、700亿（70B）参数这些数字，决定模型容量和智力上限。注意，参数量不是衡量模型能力的唯 一指标，训练数据质量和训练方法同样关键。

1.2 考点模块的权重分配建议

根据我和同行交流以及实际考题反馈，零基础考点的权重大致如下：

学习建议是按"理论—部署—微调—应用—安全"的顺序推进，每学完一个模块就动手跑通一个对应的小实验，光看书很难真正内化。下一节开始逐个模块过考点。

2. 训练机制三阶段：预训练、监督微调与人类反馈对齐

2.1 预训练阶段：模型在学习"语言规律"

大模型的能力不是凭空出现的。预训练阶段，模型在海量的互联网文本上执行"完形填空"类的任务——给你一个句子的前半部分，预测后半部分是什么。这个过程不需要人工标注，所以可以拿到的训练数据几乎是无限量的。

预训练完成后，模型拥有了很强的语言生成能力，但此时它只会"续写"，不会"听从指令"。你问它"介绍一下大模型"，它可能给你接一段不着边际的网络文本。所以零基础考点中，第一个高频题就是：预训练的目标是什么？答案是让模型学会语言规律和世界知识，而不是学会对话。

2.2 SFT阶段：教会模型听懂人话

SFT（监督微调）阶段，人们整理了一批"用户指令+标准回答"的数据，让模型在这批数据上继续训练。这个阶段的作用是让模型学会指令遵循的基本格式。零基础考生常问：SFT需要多少条数据？日常项目里，几百条高质量样本就能看到明显效果，几千到几万条通常就能达到不错的对话质量。关键在数据质量而不是纯数量，一条覆盖真实用户场景的优质问答，胜过上百条网上拼凑出来的空泛对话。

2.3 RLHF阶段：让回答符合人类偏好

RLHF（基于人类反馈的强化学习）是在SFT之后进一步优化模型。具体做法是让人对同一问题的多个模型回答进行排序，训练一个"奖励模型"，再用这个奖励模型去引导大模型输出更符合人类偏好的答案。这一阶段的难点在于训练不稳定，超参设置和经验关系很大。

这一块考试经常出的是对比题：三个阶段的输入分别是什么？输出分别是什么？预训练输入纯文本，输出是语言模型；SFT输入指令数据，输出是对话模型；RLHF输入人类偏好，输出是对齐后的模型。把这几个区别吃透，大模型训练机制的考点基本就覆盖了。

3. 推理与部署考点：显存计算、量化与工具选型

3.1 从手写Transformer到Ollama一键部署

零基础学部署，我强烈建议直接从Ollama这类工具入手，而不是先去手写推理代码。Ollama把模型下载、量化、推理封装成了一行命令，能让你在完全没有底层基础的情况下先把完整流程跑通，建立自信。

Ollama部署的基本流程：

1. 安装Ollama后，在终端执行ollama run qwen2.5:7b自动下载模型并启动对话。
2. 模型默认存放在本地指定目录，可用ollama list查看已装模型。
3. 对外提供服务时，Ollama默认监听11434端口，支持OpenAI兼容格式的API调用。

很多零基础学员在这个阶段最大的困惑是"我的电脑跑得动吗"。判断依据主要是显存。以7B模型为例，在FP16精度下，光权重就需要约14GB显存，加上推理时的KV缓存和其他开销，建议至少准备16GB显存。如果显存只有8GB，就需要用到量化。

3.2 量化考点：4bit与8bit的选择逻辑

量化是零基础考生必须理解的概念，它和"模型精度"以及"显存占用"直接相关。量化的本质是把模型权重从高精度浮点数（如FP16）压缩到低精度整数（如INT8、INT4），用稍微牺牲一点质量的代价，换取显存占用的大幅下降。

我实测过7B模型在不同量化级别下的表现：FP16占用约14GB，质量最好；INT8占用约7GB，质量几乎无损；INT4占用约4GB，日常对话可用，但复杂推理任务偶尔会出现逻辑退化。所以8GB显存跑7B模型，首选INT8部署；如果只有6GB显存，INT4是可以接受的底线。

部署时还有一种常见需求是接入FastGPT这类应用框架。FastGPT支持对接Ollama本地模型，整体架构就是"Ollama提供推理能力，FastGPT负责知识库和对话流程编排"。如果你在项目中遇到过"怎么把本地模型接到知识库问答系统"的问题，这套组合就是最主流的答案之一。

4. 微调实战考点：LoRA、全参微调与数据标注样例

4.1 全参微调为什么对初学者不友好

微调是让模型适配特定领域或风格的必经之路。零基础书上最常出现的一组对比是全参微调与LoRA。全参微调意味着模型所有的权重都会更新，效果上限高，但所需的显存和训练时间也非常可观。以7B模型为例，全参微调需要至少40GB以上显存，个人单卡基本跑不动。更麻烦的是，全参微调容易让模型学到"灾难性遗忘"，把原本通识能力破坏掉。

4.2 LoRA微调的核心原理与实操流程

LoRA（低秩适配）的做法是冻结原始模型权重，只额外训练一小部分新增的低秩矩阵。这就像在一本已出版的书上贴满便签，通过调整便签内容来改变模型的输出风格，而原书内容保持不变。

LoRA微调主流工具是LLaMA-Factory，具体流程：

1. 准备一份JSON格式的指令数据，包含instruction（指令）、output（期望输出）等字段。
2. 在LLaMA-Factory配置界面选择基础模型（如Qwen2.5-7B）、LoRA参数（如秩r=8、缩放系数alpha=16）。
3. 设置训练轮数（一般2到3轮），学习率控制在2e-4左右。
4. 训练完成后导出LoRA权重，推理时加载。

关于数据标注，零基础学员提供的样例质量往往参差不齐，我建议参考 DeepSeek 开源的数据标注规范：每条样本必须包含完整的用户意图说明、上下文信息和高质量回答；负样本（模型不应这样回答的例子）同样重要，只给正样本会让模型过于"迎合"。

4.3 微调数据最容易翻车的三个细节

微调时最常见的坑，一个是数据格式不一致，比如有的样本有input，有的没有，训练时模型会学到混乱的模式；另一个是训练集和验证集划分不合理，导致评估结果虚高；还有一个是LoRA参数设置不当——秩设得太大容易过拟合，设得太小又学不到东西。

我遇到过一个学员，用同一份数据跑两遍，第二遍效果显著变差，原因是学习率太高导致损失值震荡。这类问题在LoRA训练日志里很常见，看到loss曲线忽高忽低，先把学习率降一个数量级再试。

5. 应用开发考点：提示词工程、RAG与智能体入门

5.1 提示词工程：零基础也能上手的第一个技能

提示词工程是零基础考点里回报率最高的一个。它不需要任何代码能力，只要掌握几个原则就能明显改善模型输出质量。我给学员总结的口诀是"给角色、给背景、给要求、给示例"。

一个对比示例：

• 弱提示：帮我写一份项目总结。
• 强提示：你是一名资深的AI项目负责人，请根据以下背景信息，写一份面向技术管理层的项目总结简报，要求分三部分：项目进展、核心风险、后续计划，总字数500字左右。背景信息如下：……

同样一个模型，输出质量可以天差地别。考试时出题方向经常是"如何优化提示词以提升回答准确性"，答案核心就是"明确性+示例+约束条件"。

5.2 RAG：让模型学会"翻书再回答"

RAG（检索增强生成）是解决大模型知识过时和幻觉问题的主流方案。它的核心思想是：模型回答问题之前，先从外部知识库中检索相关文档片段，把检索结果拼进提示词，再让模型基于这些参考内容生成回答。

零基础考生需要掌握RAG的四个核心环节：文档导入、切分、向量化、检索排序。文档切分环节最容易忽视但影响最大，切太碎会丢失上下文逻辑，切太长又会让检索不精准。常见做法是按固定字符数结合标题层级切分，块大小设置在500到1000字之间，并设置一定比例的重叠区域避免关键句被切断。

向量化阶段要用嵌入模型把文本转成向量，检索阶段则用向量相似度查找最相关内容。在FastGPT这类平台中，这些流程已经被封装成可视化工作流，你只需要关心文档如何处理、知识库如何选择，以及Promt如何引用检索结果。

5.3 大模型知识抽取与智能体应用

知识抽取是大模型在企业知识管理中的重要落地场景。传统的信息抽取需要用规则或小模型逐字段处理，面对非结构化文本时效果很差。大模型可以直接从合同、报告、工单中抽取出"时间、人物、事件、金额"等结构化字段，这个任务在RAG流程里常常担当文档预处理环节。

智能体（Agent）是当前考试和应用的热点方向。智能体的本质是让大模型具备"计划、调用工具、执行、观察结果"的闭环能力。零基础学员理解智能体可以从一个简单场景切入：让模型帮你查天气，它先判断需要调用天气API，然后生成API请求参数，拿到返回结果后组织成自然语言回答。这个过程中，大模型扮演的是"调度中心"的角色，真正干活的是外部工具。

2026年前后的趋势是多模态智能体，模型不再只能处理文本，还能看图、听音、生成图像，Agent可以操作软件界面、调用多个模型协同完成复杂任务。考试中如果出现"请设计一个智能体实现某个功能"的题目，答题框架就是：大脑（大模型）、工具（API/代码解释器）、记忆（短期上下文+长期向量库）、行动计划（拆解任务并逐步执行）。

5.4 用Java/其他语言调用大模型API的考点

很多开发方向的学习者会问，大模型如何与现有系统集成。主流做法是通过各厂商提供的HTTP API。国内常用的大模型API包括通义千问、DeepSeek、智谱等，大多提供了OpenAI兼容格式的接口。以Java为例，调用千问大模型对话，核心逻辑是构造HTTP请求，将消息列表以JSON格式发给API接口，然后解析返回内容。考试考点一般不要求手写完整代码，但要求了解请求格式、鉴权方式和主要参数：model（指定模型）、messages（对话历史）、temperature（随机性，值越大回答越发散）、max_tokens（控制返回长度）。

这里有一个小技巧：测试阶段把temperature设置为0，可以大幅提高回答稳定性，便于排查问题；产品上线后再根据需要调高随机性，让回复更生动。

6. 安全、测评与选型考点：不能只会跑模型

6.1 幻觉问题：大模型的"一本正经胡说八道"

大模型最让人头疼的问题就是幻觉——模型会以非常自信的语气说出完全错误的内容。考题常问"为什么大模型会产生幻觉"，答案主要从三个方面展开：训练数据中本身就包含错误信息、采样生成机制导致概率性错误、模型缺乏事实核查能力。应对方案通常是引入RAG提供可靠参考、在提示词中强制要求"不确定就说不确定"、以及建立事后校验机制。

6.2 投毒测试与安全对齐

2025年以来，"大模型投毒测试"成了安全方向的热门考点。投毒攻击指的是攻击者在训练数据中混入恶意样本，让模型在被触发特定关键词时输出有害内容或泄露隐私。零基础考点的重点不是攻击手法本身，而是防御思路：数据清洗、训练数据来源审计、安全对齐（Red Teaming）、输出内容过滤。

模型作者在发布前都会做大量的红队安全测试，模拟恶意用户诱导模型突破安全限制。普通开发者在做应用时也不能只依赖模型自带的安全机制，必须加一层输出审核，尤其是面向公众的对话产品。

6.3 模型测评考点：跑分网站与基准测试

零基础考生必须认识几个公开的模型评测基准：MMLU（综合知识）、C-Eval（中文知识）、HumanEval（代码能力）、OpenCompass（上海AI Lab发布的中文评测框架）。考试容易出"如何评估大模型效果"的题，答案关键是：不能只看跑分，要用自己的业务数据集做小规模人工评估。跑分只是参考，和真实业务场景差距可能非常大。

6.4 大模型选型：开源私有化还是调用免费API

这个问题几乎在每次考试和项目评审中都会被问。我从成本、数据安全、可控性三个维度整理了选型思路：

零基础上手路径建议从免费API或Ollama本地模型起步，把实验跑通之后再考虑私有化部署。企业大模型私有化部署还需要考虑内网环境部署、模型版本管理、推理服务监控等工程问题，考试中如果出现"如何为企业设计大模型方案"这类题，记住"安全合规、成本可控、效果可用"这三个维度并展开，就是一个完整的答题框架。

7. 免费API与学习路线：零基础最快上手路径

对于零基础考生来说，与其纠结各类复杂概念，不如先想办法免费用上一个大模型API，把"输入提示词—得到回答"的闭环建立起来。目前国内外有不少免费的模型API额度，注册即送，足够学习测试使用。不用动笔写任何代码，使用ChatGPT类的在线工具或者用Postman直接调用OpenAI兼容接口，你就能直观理解messages里system、user、assistant三种角色的含义。一旦看懂了API返回的JSON结构，后续学LangChain、FastGPT、各类开发框架都会顺畅很多。

零基础学习路线的推荐顺序是：先用在线工具体验大模型，再用Ollama本地跑通开源模型，然后学提示词工程，接着跑一个RAG知识库项目，最后根据工作需要决定是否深入微调和Agent开发。整个周期大约4到6周，每一步做一个小项目，比单纯看教材有效得多。

在我带过的零基础学员里，最快上手的那个人没有看任何大部头教材，就是靠一批公开视频加一个Ollama本地环境，从写提示词到做企业知识库问答，前后不到一个月。大模型技术的入门门槛比想象中低得多，真正拉开差距的从来不是理论基础，而是你有没有把一个模型从下载、部署到调通API完整跑一遍。这篇文章里的每个考点，你不需要背得一字不差，但建议把上面提到的工具和流程亲手试一次——试完再回头看理论，你会发现所有概念都自然串起来了。