我一直觉得，跟非技术朋友解释AI概念，最难的不是术语本身，而是让人脑子里没有画面。机器学习、神经网络、深度学习、大模型、AI Agent——这些词放在PPT上大家点头，落到真实世界里就飘了。上个月我给我们这边一家连锁餐饮集团的运营团队做AI科普培训，为了让他们听得进去，我干脆把整套AI十大技术概念搬进了他们的后厨。
后厨是个极其精密的系统：有人验菜，有人切配，有人掌勺，有人盯外卖单，出了新菜要试，客人反馈要听，晚市高峰要同时出几十道菜。这跟现代AI的工作方式几乎是同构的。所以我定了这么一条主线：把机器学习、神经网络、深度学习、大语言模型（LLM）、计算机视觉、自然语言处理（NLP）、强化学习、AI Agent、生成式AI、训练与推理，这十个最常被问到的概念，全部翻译成后厨里的锅碗瓢盆和人事制度。先记住它们之间的关系：机器学习是最大的一盘菜，神经网络是做这道菜的主要手法，深度学习是深层的神经网络，大模型是深度学习的巨量版本；视觉和NLP是两类感知能力，Agent是大模型配上规划、工具和记忆之后的升级形态，强化学习是另一种跟监督学习完全不同的学法，生成式AI则是一系列模型共同追求的"能创造"这个目标，训练和推理是每个模型都要经历的"学厨"和"出菜"两个阶段。
接下来，我就按这个逻辑一道一道上菜。
1. 老厨师怎么带徒弟：机器学习是从菜例里悟出规律
1.1 从"背菜谱"到"尝百菜"
传统编程是"人先把规则写好，机器照着执行"——相当于给厨房贴一张SOP：盐5克、糖3克、大火2分钟。这个方式的问题在于，后厨里真正的难点根本没法写成规则。什么叫"断生"？什么叫"挂汁刚好"？老师傅凭经验判断，却没法用语言精确表达。机器学习换了一个思路：别再试图手写规则了，给你大量做好的菜，让系统自己悟。
说白了，机器学习的核心就是"从数据里自动总结规律"，而不是人肉制定规则。我见过太多非技术朋友第一次听这个概念就懵，就是因为搞不清"学习"到底学了什么。你就想老厨师带徒弟：师傅不会跟徒弟说"盐要多精准、油温七成是210度"，而是让徒弟做一百份红烧肉，每份都尝，尝完自己体会。一百份之后，徒弟心里就有数了：什么样的肉配什么样的火候，什么时候该收汁。机器学习就是这个徒弟，只是它记规律的方式不是"心里有数"，而是调一组数字参数。
举个具体例子：预测一道炖肉需要多久，输入是肉块大小、锅具导热性能、火力档位、起始水温，输出是时间。机器学习要做的，就是找到输入和输出之间的映射关系。这个关系可能复杂到你根本没法用一条公式写出来，但模型可以通过成千上万个"输入-输出"例子把它逼近出来。这正是"数据"在后厨场景里的意义：菜例越多，徒弟对火候的判断越准。
1.2 师傅评判菜品的尺度：监督学习、无监督学习与过拟合
机器学习内部还得分门派，跟后厨带徒弟的方式一一对应。
监督学习是师傅全程打分。系统拿到一批"原材料+成品"的标准答案对，师傅在旁边说这盘合格、那盘偏咸，模型就学会判断新情况。比如餐厅想用AI评估菜品外观是否达到出品标准，那就先让师傅标出几千张"合格出品"和"不合格出品"的图片，算法从标注里学。这是目前工业界用得最多的一种。
无监督学习则是没人给答案。把一百道菜摆在那儿，模型自己发现辣菜和甜菜分成两拨，或者发现某个食材搭配总是出现在一道菜里。后厨里做消费者口味分析，常常这么干：把历史订单丢给算法，让它自动找出"喜欢A套餐的人大概率也爱加B小料"这种隐藏规律。
还有一个必须警惕的问题叫过拟合，这个坑做AI的人天天见。过拟合是什么感觉？徒弟学过头了。他可能在某次练习时，师傅因为心情好多说了一句"这菜做得不错"，结果徒弟把"那天多加了一把盐"也当成了制胜心得，以后每次都多加盐，换个场合就翻车。过拟合就是模型把训练数据里的噪声、偶然事件也当成了规律，导致它在见过的题目上表现得极好，一遇到新情况就垮掉。判断过拟合最直观的办法就是看"训练集成绩"和"验证集成绩"的差距：练习卷次次满分，一上考场就懵，那就是学过头了。
这一章最后补一句关于特征的话。师傅看油温是看油纹，不是看温度计，那个"油纹"就是特征。机器学习里有个环节叫特征工程，就是要告诉模型"该看什么、怎么把信息组织起来"。现在深度学习省了很多人工特征设计的功夫，但理解这个思路能帮你更好地理解后面的概念。
2. 从一口灶到整条流水线：神经网络和深度学习的内在分工
2.1 神经元=一个只干一件事的小岗位
如果说机器学习是宏观理念，那神经网络就是具体的实现方式之一。名字听着吓人，但它并不是要模拟人脑，只是受神经元结构启发。拆开看，神经网络就是一大堆小计算单元的层层堆叠。
每个计算单元（神经元）可以理解成后厨里的一个小岗位。这个岗位只负责一个简单的判断：比如"当前食材辣度是否超标"，超过了就往下传信号，没超过就不传。成千上万个这样的小岗位排成几排，每排各管一个环节，最后就能对一道菜做出从原料到成品的整体判断。
你可以想象一个小岗位矩阵：第一排的人只负责判断"这是不是五花肉"，第二排的人只负责判断"这块肉的肥瘦比例是否在标准区间"，第三排的人判断"这个色泽是否到了糖色状态"。每一个岗位都白痴简单，但连在一起，复杂的判断就涌现出来了。神经网络真正的本事，不是某个神经元多聪明，而是这种笨办法组合出来的集体智能。
2.2 深度=层层加工，把"生食材"变成"入味半成品"
神经网络为什么叫"深"度学习？"深度"指的就是隐藏层的数量。隐藏层就是你从外面看不见的那些中间处理环节。浅层网络像一个小店：两三个人、几步流程就算完；深度网络则是一条完整的后厨流水线。
这条流水线最有意思的地方是"层层加工"的逻辑。第一层看到的永远是原材料的低层特征：颜色、形状、边缘。第二层可能开始组合这些特征，识别出"这是带皮的肉块"；再往后的层提取更抽象的东西，比如"肥瘦纹理"、"糖色状态"、"是否到了需要转小火的阶段"。这跟后厨对食材的逐级处理一模一样：先初加工（清洗、去根），再改刀（切片、切丝），再腌制入味，最后才上灶。每一道工序都在前一道的基础上叠加信息。
这也是深度学习跟传统机器学习最大的差别：它不再靠人手工设计特征。传统方法你得告诉AI"看油纹判断油温"，深度学习则是直接扔给它海量图片，它自己学会"先看边缘，再看纹理，最后看颜色深浅"这套程序。换句话说，连"该先看什么"都是它自己学的。
2.3 反向传播：出锅之后怎么追责到哪一口锅
神经网络怎么学习？靠的是"反复做菜-试味-追责-调配方"。这个循环里有个关键机制叫反向传播，名字高级，道理其实特别朴素。
正向传播是食材从进到出：原料经过切配、腌制、烹制、装盘，得到成品。发现这盘菜咸了之后，就要追责：究竟是哪一步出了问题？是盐放多了，还是酱油本身咸度超标，还是收汁收得太狠导致咸度浓缩？反向传播做的事就是从最终味道反着一步一步推回去，计算每一个环节对"咸淡"这个结果的影响程度，然后用这个影响程度去调整对应环节的参数。在神经网络里，这个"影响程度"有个术语叫梯度，梯度越大说明这个环节越需要调整。
你在后厨里看到老师傅做徒弟的表情，其实就是在做反向传播。出锅尝一口，眉头一皱，嘴里念叨"不会是腌的时候盐下重了吧"，然后下次调整腌制的盐量。神经网络就是把这个过程数值化、自动化了，一遍不行就两遍，直到模型在训练数据上的整体误差降到可接受的程度。听懂了这个故事，神经网络学习这件事你就通了。
3. 中央厨房的真实规模：大语言模型为什么动辄几千亿参数
3.1 预训练=中央厨房的底味高汤，微调=餐厅个性化配方
大语言模型，英文缩写LLM，这两年大家熟悉的ChatGPT、通义千问、文心一言、DeepSeek这些，都属于这一类。它本质上就是一个特别巨大、在海量文本上训练出来的神经网络。那它到底为什么那么大？
一个比喻能说清楚：预训练相当于一家企业建中央厨房，一次性把几十种基础高汤、通用半成品预制好，供所有加盟餐厅共享。训练大模型的过程，就是让这个"超级后厨"在几乎整个互联网的文本上学习语言的规律：词怎么搭配、句子怎么组织、知识怎么推理。这个过程烧掉的钱和算力是天文数字，所以普通人不要想着自己预训练大模型，就像一家街边小馆不会自建中央厨房一样。
但中央厨房做出来的是通用底味，不是每家店的招牌菜。餐厅要做出自己的风格，就得在此基础上做个性化调整，这在AI里叫微调。连锁火锅店可以用自己的锅底配方去调中央厨房的高汤，让模型更懂你这家店的菜单、语气、产品逻辑。所以说大模型不是直接拿来就能用的，好的使用方式是"预训练通用能力+微调个性化能力"。
3.2 参数、Token与上下文窗口：一次能接多少单
大模型的三个基础概念，都可以在餐厅场景里找到对应物。
参数，是神经网络里所有可调节的"旋钮"总数。你可以把它理解成后厨对火候、调味的精细把握程度。参数越多，模型理论上能记住的复杂细节越多，但也意味着训练成本、推理成本、部署成本都在涨。不是参数越大就一定越好，还得看数据质量和应用场景，盲目追求几千亿参数是典型的"用牛刀杀鸡"。
Token是模型读取文本的最小单位。中文一个词可能拆成几个Token。就像点菜时"宫保鸡丁"会被拆成"宫保""鸡""丁"几个部分来处理。Token的切分方式直接影响模型的性能和对中文的理解能力，这也是为什么中文大模型在分词上要比英文模型更讲究。
上下文窗口则是模型一次能"同时记住"的信息量。可以理解成后厨能同时记住多少桌客人的在席订单。窗口越大，越能处理超长文档、长对话，就像大宴会厅的厨房能同时应付二十桌的菜而不乱。但窗口越大，计算量和延迟也可能越高，这又是一个工程上的权衡。
3.3 别把幻觉当创造力：AI一本正经地"编食材"
大模型有个著名的毛病叫"幻觉"，这是每个使用者都必须知道的。它生成内容的时候，会以无比自信的语气说出一个根本不存在的事实。在后厨里就像一位师傅明明没有某种食材，却信誓旦旦地跟客人说"我们的招牌菜一定用最新鲜的蓝龙虾"，端上来的却是一条普通鱼。
为什么会这样？因为大模型干的事情本质上不是"查资料库"，而是"预测下一个词的概率"。它见过无数菜谱，学到了"章鱼烧""蓝龙虾""分子料理"这些词经常出现的语境，但它没有真实世界里的食材库存表，所以它可能觉得"蓝龙虾"放在这里很合适，于是就这么写了。概率高，不代表事实存在。
理解了幻觉，你就明白了为什么现在做企业级AI应用很少直接让大模型裸奔，而是搭配检索增强生成（RAG）：模型在回答之前，先去查一下企业自己的资料库、库存系统，把真实信息拉回来再组织答案。等于下单的时候先翻冰箱，确认有货再承诺。后面聊训练与推理时，我还会再展开这套工程方案。
4. 后厨的"五官"：计算机视觉、自然语言处理和多模态
4.1 视觉：验菜、定位切配、装盘质检
计算机视觉解决的是"AI怎么看世界"。图像在电脑眼里不是一张直观的菜，而是一个巨大的像素矩阵，每个像素有颜色值和亮度值。要让机器从这些数字里看出"这是一颗有烂叶子的白菜"，靠的是卷积神经网络这种专门处理图像的结构。它的做法是像探照灯一样在图像上一小块一小块地扫描，先提取边缘、轮廓这种低级特征，再层层组合出"菜叶纹理""腐烂斑点"这种高级特征。
后厨至少有三个环节能用上视觉技术。第一个是验菜，把有瑕疵的菜叶自动挑出来，摄像头加分类模型就能干，比人眼一天八小时盯得还稳。第二个是目标检测与分割，机械臂要夹住那根黄瓜，必须先知道黄瓜在画面里的哪个位置、占多大区域。第三个是装盘质检，菜品出锅后过一遍摄像头，看摆盘、颜色、克数是否符合出品标准，相当于后厨设置了一位永不知疲倦的质检员。
做视觉项目最容易被低估的是光照。后厨灯光千差万别，同一个模型白天晚上效果可能差一大截，数据采集时必须把不同时段的光照都覆盖到，不然上线就翻车。
4.2 语言：听懂"少辣多香菜"和歪歪扭扭的外卖单
自然语言处理（NLP）是让AI处理文本和语音的技术。它的难点不在"分词"，而在语义理解。客人说一句"小炒黄牛肉少辣，多放香菜，米饭另装不要盖在菜上"，人一听就懂，机器却要拆成好几步：识别这是点菜意图，抽取菜名是"小炒黄牛肉"，抽取忌口偏好是"少辣"，抽取特殊要求是"多放香菜、米饭另装"。
外卖场景更考验NLP。手写单上的"少辣"可能写得像"少lā"，备注里还夹杂着"不要葱花香菜谢谢""微辣微微辣"这种口语化表达。OCR（光学字符识别）技术先把图像里的文字提出来，NLP再去理解语义，两个技术经常串联使用。这种"识别+理解"的链路，已经是连锁餐饮数字化运营的标配了。
做中文NLP还有些文化层面的细节。比如"随便"这种回复，在点菜场景里意思是"你来推荐"，但在客服场景里可能表示不满。脱离上下文谈语言理解，必然出问题，所以现在更强调把NLP放在具体业务流程里去解决，而不是试图做一个放之四海而皆准的通用语义引擎。
4.3 多模态：把"看色闻香"和"听人话"合起来
多模态模型就是让AI同时处理文本、图像、音频、视频等多种信息。为什么需要它？因为真实的场景从来不是单一感官的。一位合格的老师傅判断油温，不光看油纹（视觉），还会听油锅里发出的声音（听觉），同时脑子里的菜谱知识（文本知识）告诉他"这个温度适合下什么食材"。多模态要干的就是这事儿。
在智能后厨和巡检场景里，多模态的价值非常明显。比如用一套系统同时分析：灶台监控画面里有没有安全隐患（视觉）、机器运行有没有异常噪音（音频）、操作日志里有没有违规记录（文本）。三种信号对齐到同一个事件，判断准确率远超单模态。做AI应用时别一上来就追求多模态大而全，先把手头业务最需要的一两个模态打通，跑出价值再加，否则数据、算力、标注成本都会失控。
5. 奖惩试出来的手艺：强化学习与长期回报的逻辑
5.1 没有标准答案，只有"好不好吃"的分数
强化学习跟前面说的监督学习是完全不同的学法。监督学习有标准答案，师傅告诉你"这盘菜合格、那盘偏咸"；强化学习没有标准答案，只有一个打分机制——师傅不会说你怎么做才对，只会根据你做出来的菜给一个好评或差评。
新厨工上岗第一天，不知道每道菜的标准做法。他往锅里下了一勺盐，端上去师傅尝了一口，眉头一皱"太咸了"，他得到负分；第二天他少放盐，师傅点头，他得到正分。就这么反复试，他慢慢学会了"在什么状态下做什么动作会得到奖励"。强化学习里的几个概念都能对应上：状态是当前看到的食材、灶台和订单情况；动作是下一步操作；奖励是师傅的打分；策略是"判断在什么状态下该采用什么动作"的一套决策逻辑。
这里要注意跟监督学习的差别。监督学习是"照标准答案练"，强化学习是"在反馈里自己摸索"。"自己摸索"这件事有个代价：它需要海量的试错。游戏和模拟器场景里，AI可以在虚拟环境里跑几百万局，但后厨里真让AI反复烧坏一百锅菜才能学会颠勺，那可顶不住。所以很多机器人技能是先在仿真环境里用强化学习练好，再把策略迁移到真实设备上。
5.2 探索与利用：新厨师的创意和老师傅的稳妥
强化学习里有个绕不开的矛盾叫"探索-利用的权衡"，我每次给团队讲都必须强调。
探索，就是尝试新做法。新厨师为了做出让人惊艳的菜，主动偏离标准配方，加入平时不用的调料或改变火候，有时能出奇迹，有时翻车。利用，就是沿用已知的稳妥方法。老师傅知道什么火候出什么菜，稳定出品，没有惊喜但不会砸招牌。
算法必须在两者之间做平衡。一个只探索不利用的系统，永远在试错，积累不了优势；一个只利用不探索的系统，很快停在60分水平。实操里常用一个简单策略叫ε-greedy，翻译过来就是"90%的时间按最好的方法做，10%的时间故意尝试点新花样"。就像后厨定规矩：每周保留一天给厨师创新菜，其余时间严格执行SOP。这样既稳住日常出品，又不放过可能产出爆款的机会。
5.3 延迟奖励：一桌菜没上齐，谁在等？
强化学习最厉害也最不容易理解的地方，是处理"延迟奖励"。后厨里，你这一分钟做的切配工作不会立刻得到奖励，真正的奖励在客人吃完饭、结账、甚至下次带朋友再来时才兑现。一顿饭的成败，取决于从切配到出菜这整条链路，而非某一个瞬间。
算法里有个参数叫折扣因子，专门用来表达"未来的奖励相对于现在的价值"。明天客人的好评，对今天这桌菜的影响要打个折；下周的口碑传播，折打得更多。就是把长期回报贴现到眼前来指导决策。
这让强化学习特别适合那种"走一步看三步"的问题：餐厅高峰期的订单调度、菜品上桌顺序的安排、外卖骑手的路径规划、机器人颠勺的轨迹控制，全是延迟奖励的典型场景。理解了这一点，你就知道为什么强化学习能打败围棋世界冠军——它学会的不是某一步怎么走，而是如何让整盘棋的长期胜率最大化。
6. AI Agent：从会听指令的帮厨到能自己排班的档口主管
6.1 Plan、Tool、Memory：主管的三件套
AI Agent是这两年AI应用实践里最火的方向，也被很多人戏称为"AI打工人的终极形态"。普通大模型是你问一句它答一句，像一个只会听吩咐的帮厨；Agent则是一个有自主性的档口主管，你给它一个目标（今晚招待一百人的宴会），它能自己把这个大任务拆成小任务，然后一个一个安排下去。
要做到这件事，Agent必须有三件套。第一个是规划能力（Plan）：把"招待一百人"拆成确定菜单、统计食材、分配人手、排工序、控制时间线这些子任务。第二个是工具调用（Tool Use）：光会想没用，还得会动手。它需要能查库存系统、能调排班表、能设定时器，也就是能调用外部API和软件。第三个是记忆（Memory）：既要记住这场宴会的进度，也要记住老顾客的忌口和之前的合作风格。短期记忆负责在对话中保持上下文，长期记忆负责把历史经验和偏好沉淀下来。
这三件套合在一起，才让AI从"回答问题"跨越到"完成任务"。这个跨越是本质性的：以前是信息助理，现在是执行主体。
6.2 ReAct循环：看一眼调料罐再决定下一步
Agent最常见的行动框架叫ReAct，是Reason和Act的合体，翻译过来就是"思考-行动-观察"循环。这个机制比我写一段完整的长计划更稳健，也更容易理解。
用后厨场景演示一遍：主管突然接到客人要求加一道"蒜蓉粉丝虾"。它不会凭记忆直接断言"能做"，而是先推理："晚市高峰期，备料筐里还有虾吗？"（Reason）→ 然后去查库存系统，甚至走到备料间看一眼（Act）→ 发现虾剩得不多但有货（Observe）→ 再次推理："虾不够两人份，是不是要告知客人改为半份，或者换一道菜？"（Reason）→ 回到前厅沟通（Act）。如此反复循环，每走一步都基于最新观察到的事实。
为什么这个模式好？因为真实世界的信息总是不完整的。一次性的长计划看着漂亮，一执行就露馅，因为中途总有意料之外：某个食材临时缺货、某个炉灶坏了、某个订单临时取消。ReAct让Agent随时把新观察到的信息拉回决策循环，而不是闷头执行老计划。我做Agent项目时踩过的最大的坑就是"思考过度、行动不足"：系统反复推理自己该干什么，却迟迟不调用工具、不发指令，白白消耗Token和时间。解决办法很粗暴，给循环设最大步数，强制先行动再做修正。
6.3 多Agent协作：热菜档、凉菜档怎么不打架
真实后厨不是只有一个万能主管，而是多个分工明确、互相通报的档口负责人。热菜档、凉菜档、甜品档、传菜口，各有各的目标，还要配合完成整桌宴席。这就是多Agent协作。
多Agent系统要解决的核心问题是通信和调度。热菜档说："我这桌还要五分钟出锅，需要甜品档提前备好，因为客人吃完热菜马上催甜品。"凉菜档说："我这边的菜已经出完了，可以支援切配岗。"信息不对称的时候，两个档口可能同时用同一个烤箱，或者热菜全出完了甜品还没动，整个上菜节奏就崩了。多Agent架构里，Agent之间通过消息机制共享状态，由一个调度器统筹决策，就是这个道理。
但我要给做工程的同学泼盆冷水：别为了多Agent而多Agent。我见过不少项目，明明一个Agent加几个工具就能解决的业务，硬是拆成五个Agent互相调度，结果调试成本翻倍、错误率不降反升。务实的路子是先用一个Agent把流程跑通，确认哪里确实出现了"多个职责同时需要并行处理"的瓶颈，再拆成多Agent，一级一级加复杂度。
7. 生成式AI与训练推理：从灵感拼盘到高峰期稳定出菜
7.1 生成不是检索：在食材空间里做新组合
很多人对生成式AI有一个误会，以为它是在数据库里找一段最像的现成内容贴出来。实际上完全不是。生成式AI的学习方式是：在大规模数据上掌握"什么东西大概率长什么样"的规则，然后在一个巨大的可能性空间里随机组合出新的东西。
拿AI画图来理解：它一开始不是画出一盘菜的轮廓，而是从一片纯噪点开始，像一大团没揉好的面糊，然后逐步去噪、逐步添加细节，经过几十步之后才变成一张清晰的菜品图。每一步它都在根据学到的"食材搭配规律、光影规律、构图规律"来决定下一步往哪个方向调整。这不是检索，这是创造。
后厨里真正的创意菜也是这么来的。老师傅尝遍了川菜、粤菜、法餐，脑子形成了"什么食材配什么酱汁大概率好吃"的分布规律，然后在一瞬间做出一个前所未有的新组合。生成式AI的创新本质，就是从这个分布里不断采样，采样得越多，越有可能碰到惊艳的组合。但既然是采样，就必然有风险，生成一百道创意菜里可能九十五道是暗黑料理，这也是生成式AI需要人工筛选的原因。
7.2 训练是"学厨三年"，推理是"晚市开火"
训练与推理这两个词，是理解AI落地成本的关键。
训练阶段，是模型学习参数的过程。用海量数据和大量GPU把神经网络里的权重从随机值一点点调整到能准确完成任务的数值。相当于送一位厨师出国进修好几年，期间学费、食材费、国外差旅费全是大头，但这笔钱是一次性的。这也是为什么训练大模型那么烧钱，强如头部公司也要掂量掂量。
推理阶段，是模型用已经学好的参数去实际预测、生成。相当于厨师学成回来，晚市高峰期真正开火给客人做菜。这时候不再需要花几年学费，但每一次出菜都有时间成本和算力成本。训练要求精度和规模，往往要超大规模集群；推理要求快、稳定、性价比高，所以对芯片的需求也不一样。这两类需求直接推动了算力市场的分层。
实际做AI项目的同学一定要先把这笔账算明白：训练成本是一次性投入，推理成本是每调一次接口、每生成一个Token都在花，是持续的费用。很多时候企业的AI方案做不下去，不是训练没做好，而是推理成本在业务量上来之后吃掉了利润。
7.3 温度参数和Soufflé：为什么"确定性"与"创意"要平衡
生成式模型里有个非常直观的参数叫温度（temperature），控制输出的随机程度。数值调低，输出更确定，同样的输入基本得到同样的回答；数值调高，输出更随机，每次生成都可能不同。
后厨类比特别贴切。温度低，相当于一家老字号严格按标准出菜：味道稳定，客人每次来吃到的都是一个味，不会出错但也别指望惊喜。温度高，相当于一位创意菜厨师：每次出菜都看状态，有时给你端出惊艳作品，有时翻车翻得离谱。你调温度，就是在"求稳"和"求新"之间找平衡点。
我在实际项目里给过一个铁律：客服机器人、客服知识问答、合同生成这类场景，温度一定要低，最好接近0，确保答案稳定可预期；营销文案、广告创意这类场景，可以把温度适度调高，让模型多尝试不同的表达方式，你再从中选好的。温度这东西就像舒芙蕾的烤箱温度，差几度成品完全不一样，调参之前先想清楚业务到底要的是"稳"还是"奇"。
7.4 推理成本、RAG和模型压缩：后厨的降本增效
最后聊点务实的工程落地经验。大模型应用真正走向业务，绕不开降本增效，后厨逻辑完全一致：中央厨房再好，燃气费和人工成本也得控制住。
第一条路是RAG，检索增强生成。大模型记不住企业内部的最新数据和私有知识，你让模型硬答就会出现前面的"幻觉"问题。RAG的做法是：用户提问时，先从一个文档库或数据库里检索出相关的真实资料，把这些资料作为上下文提供给模型，模型再基于事实生成答案。后厨里的对应物是"下单前先翻冰箱、查库存"，等于把"背菜谱"变成"查菜谱"，既准确又省算力。
第二条路是模型压缩，常见的办法有量化和蒸馏。量化是把模型参数的精度从高浮点数降到低精度，像把一个大厨的完整配方从极其精确的克数简化成"约一两"，损失很小，但模型体积和推理速度都大幅优化。蒸馏则是训练一个小模型去模仿大模型的输出，让一位经验丰富的大厨把自己的判断逻辑浓缩成一本快手手册，帮厨照着手册也能做出六七十分的水准。这两种手段在业务上量之后，效果立竿见影。
第三条路更朴素：别什么任务都上大模型。能写死的规则不写模型，能用小模型解决的不上大模型，就像后厨也不是所有菜都请主厨亲自做，简单的凉菜交给熟练帮厨就行。AI工程化本质上就是一个不断做"成本与效果的权衡"的过程。
这套后厨比喻，我这些年给不少非技术团队讲过，反响一直不错。听着是段子，但每个比喻背后都有真实的技术逻辑支撑，不会把人带偏。需要提醒的是，比喻终归有边界：神经网络不是真的后厨组织，Agent也不是真的在"思考"，它们只是把某种可计算的过程用我们熟悉的方式表达了出来。如果你想跟朋友或同事讲AI，我建议你也先搭一个整体框架，让听众脑子里有一张大图，再一个一个概念往里填，最后一定别忘了交代那些"划等号划不过去"的地方——那才是理解AI真正开始的地方。
