ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

AI预算从实验到工程化:一线从业者的拆解与应对

AI预算从实验到工程化:一线从业者的拆解与应对

1. 从一条提问说起:AI预算到底在涨还是在砍

“Ask HN: How are AI budgets changing in your company?” 这个标题第一次看到的时候,我正坐在会议室里跟财务过下一季度的云资源账单。说实话,那一瞬间我脑子里蹦出来的不是技术问题,而是一个特别现实的疑问:我们公司今年在AI上花的钱,到底是变多了还是变少了?这个问题看起来像是个闲聊话题,但它背后牵扯的东西一点都不轻松——它直接关系到团队明年能招几个人、能买多少算力、能试多少新项目。

我在过去两年里,先后参与过三个不同规模团队的AI相关预算规划:一个不到二十人的创业公司,一个三百人左右的中型SaaS企业,还有一个上万人的传统行业公司里的创新部门。这三个地方对AI预算的态度完全不一样,但有一个共同点:没有人再问“要不要做AI”了,所有人问的都是“这笔钱花下去,什么时候能看到东西”。这就是我想在这篇博文里聊清楚的事情——AI预算的变化趋势、背后的决策逻辑、以及一个普通从业者该怎么理解和应对这种变化。

如果你是一个技术负责人、团队Leader、或者只是想知道自己所在的公司为什么突然砍掉了AI项目预算的普通工程师,这篇文章应该能给你一些参考。我不会给你一堆宏观数据,那些东西网上到处都是,我会从我自己踩过的坑、见过的决策过程、以及实际做预算拆解的经验出发,把这件事讲透。

2. AI预算变化的三个真实切面

2.1 从“实验性拨款”到“ROI考核”:预算逻辑的根本转变

2023年的时候,我所在的创业公司做了一件现在看起来挺疯狂的事:老板直接批了一笔钱,说“你们拿去试试大模型能干什么,不用写详细计划”。那笔钱大概够我们租半年的GPU实例,加上几个人的时间。当时没有人问回报率,因为整个行业都在焦虑“错过窗口期”。但到了2024年下半年,情况完全变了。同一个老板,同一个团队,再申请预算的时候,他第一句话是:“上次那笔钱花完了,产出了什么?”

这个转变不是个例。我跟好几个在不同公司做AI的朋友聊过,大家的感觉出奇一致:实验性预算在收缩,但和生产系统挂钩的预算在增加。什么意思呢?就是那种“先拨一笔钱看看能搞出什么”的预算越来越难批了,但如果你能说清楚“这个模型上线后能替代多少人工审核成本”或者“这个推荐系统能提升多少转化率”,钱反而比以前更好拿。

我自己的判断是,这不是AI预算在减少,而是AI预算在从探索阶段进入工程化阶段。探索阶段的预算特征是金额小、决策快、容忍失败;工程化阶段的预算特征是金额大、决策慢、要求可衡量。很多团队卡在中间,是因为他们还在用探索阶段的方式去申请工程化阶段的预算,自然碰壁。

2.2 大厂和小团队的预算分化:谁在加码,谁在收缩

我观察到一个很有意思的现象:不同规模的公司,AI预算的变化方向完全相反。大公司在某些方向上在加码,而小团队在收缩。但这个“加码”和“收缩”不是简单的谁有钱谁没钱的问题,而是预算结构在发生迁移。

大公司这边,我了解到的情况是:基础模型训练相关的预算在向少数几个核心团队集中,而应用层的预算在向业务部门分散。以前是“AI部门拿一大笔钱做所有事”,现在是“每个业务线自己报AI相关的预算,AI部门提供平台支持”。这种变化导致的一个直接结果是:中间层的AI团队最难受——既不像基础研究团队那样有战略保护,又不像业务团队那样有直接收入证明。

小团队这边,情况更直接。我认识的一个十人左右的创业团队,去年每个月在API调用上花两千多美元,今年降到了不到八百。他们做的事情很简单:把一些非核心的AI功能砍掉,只保留最影响用户体验的那几个。他们的原话是:“以前觉得AI是差异化,现在觉得AI是成本项,能省就省。”这话听起来有点残酷,但我觉得挺真实的。

2.3 预算变化的行业差异:哪些领域在逆势增长

不是所有行业都在收缩。根据我跟同行交流得到的信息,至少有三个方向的AI预算在明显增长:医疗健康相关的文档处理和辅助诊断、金融领域的风控和合规审查、以及制造业的质量检测。这三个方向的共同特点是:AI的产出可以直接对应到明确的成本节约或收入增长,而且错误率要求虽然高,但人工替代的收益足够大。

反过来,收缩最明显的是通用聊天机器人和内容生成这两个方向。原因也很简单:这两个方向的技术门槛在快速降低,供应商越来越多,价格战打得厉害,自研的性价比越来越低。我认识的一个团队去年花了三个月自研了一个文档摘要系统,今年发现直接用现成的API效果差不多,成本只有自研维护的十分之一。这种故事在圈子里越来越多,直接导致了相关预算的削减。

3. 预算决策背后的五个关键考量

3.1 算力成本:从“抢卡”到“算账”

2023年的时候,大家聊AI预算,第一个话题永远是“能不能搞到卡”。那时候算力是稀缺资源,谁能拿到GPU谁就能做事情。但到了2024年,情况变了。我参加过一个内部预算讨论会,财务负责人直接问了一个问题:“你们这个模型训练,能不能用更便宜的实例?为什么一定要用最贵的那种?”

这个问题背后是一个很现实的转变:算力从稀缺资源变成了成本项。以前大家不太计较单价,因为能拿到就不错了;现在供应相对充足了,大家开始算细账。我自己的经验是,同样一个训练任务,通过调整批次大小、优化数据加载、使用混合精度,可以把成本降低百分之三十到四十。这些优化以前没人愿意做,因为时间比钱重要;现在反过来了,钱比时间重要。

注意:算力成本优化不是简单地换便宜实例。我见过一个团队为了省钱把训练任务从A100换到消费级显卡,结果训练时间从三天变成两周,整体成本反而更高。算账要算总账,不能只看单价。

3.2 人力成本:AI工程师的薪资预期在回归理性

前两年AI工程师的薪资被炒得很高,一个刚毕业的博士就能拿到普通工程师三倍的薪水。但今年我观察到的情况是,薪资预期在回归理性,尤其是应用层的AI岗位。原因很简单:当公司发现AI项目的产出没有想象中那么快的时候,他们就不愿意为“AI”这个标签支付溢价了。

这对预算的影响是直接的:同样一笔人力预算,以前只能招两个AI工程师,现在可以招三个到四个普通工程师加上一个AI方向的负责人。很多公司选择了后者,因为应用层的AI工作,大部分其实是工程工作,不是研究工作。我自己的团队就是这样配置的:一个懂模型的负责人,加上几个工程能力强的普通工程师,产出比全是AI博士的团队更高。

3.3 供应商选择:自研、开源还是API

这是预算讨论里最容易吵架的话题。自研派说“可控性最重要”,开源派说“成本最低”,API派说“上线最快”。我经历过三次这样的决策,每次的结论都不一样,但有一个规律:当你的需求量足够大且稳定的时候,自研或开源更划算;当你的需求量波动大或者还在探索期的时候,API更划算。

我做过一个粗略的计算:如果一个团队每天需要处理一百万次推理请求,用API的成本大约是自研维护成本的兩到三倍。但如果每天只有十万次请求,API的成本反而更低,因为自研需要至少一个全职工程师维护,这个人力成本摊到十万次请求上,单价就上去了。这个计算不精确,但方向是对的。

方案适合场景前期投入长期成本风险
自研需求量大且稳定高低技术选型错误
开源有技术能力且需求中等中中维护负担
API需求波动大或探索期低高供应商锁定

3.4 项目优先级:怎么决定哪个AI项目先做

预算有限的时候,优先级排序就成了最关键的事情。我见过两种极端:一种是“谁声音大谁先做”,另一种是“按ROI排序”。前者通常发生在没有统一AI负责人的公司,后者通常发生在有专门AI委员会的公司。但我觉得两种都不太对。

我自己的经验是,优先级应该按“学习速度”排序,而不是按“回报大小”排序。什么意思呢?就是先做那些能让你快速获得反馈的项目,哪怕它的预期回报不是最高的。因为AI项目的不确定性太大了,你需要在早期用最小的成本获取最多的信息。一个预期回报很高但需要六个月才能看到结果的项目,不如一个预期回报中等但两周就能验证的项目。

3.5 合规与安全:被低估的预算黑洞

这是最容易被忽略的一块。很多团队在做AI预算的时候,只算了算力和人力,完全没算合规和安全相关的成本。但实际做起来,这块的投入可能占到总预算的百分之二十到三十。尤其是涉及到用户数据的项目,数据脱敏、访问控制、审计日志、模型解释性,每一项都需要投入。

我踩过的一个坑是:一个内部使用的文档问答系统,本来觉得不涉及用户数据,没什么合规问题。结果上线后发现,文档里包含了一些敏感信息,需要做额外的权限控制和内容过滤。这部分工作花了我们额外两个月的时间,预算直接超了百分之四十。从那以后,我做任何AI项目预算,都会先留出百分之二十的合规安全余量。

4. 一个可复用的AI预算拆解模板

4.1 第一步:明确预算的归属层级

在开始拆解之前,你需要先搞清楚一件事:这笔预算到底是公司级、部门级还是项目级?不同层级的预算,审批逻辑和灵活度完全不一样。公司级的预算通常跟战略方向挂钩,审批周期长但金额大;部门级的预算跟业务目标挂钩,审批相对灵活;项目级的预算通常是小额快速,但很难做大。

我自己的做法是:先申请项目级预算做验证,拿到数据后再申请部门级预算做扩展,最后如果确实有战略价值,再争取公司级预算。这个路径看起来慢,但实际上比一上来就申请大预算更容易成功,因为你有数据支撑。

4.2 第二步:把成本拆成可计算的单元

AI项目的成本可以拆成几个大块:算力、存储、人力、数据标注、合规安全、以及不可预见的杂项。每一块都需要有具体的计算方式,不能只写一个总数。我通常会用下面这个表格来做拆解:

成本项计算方式备注
算力实例单价 × 运行时长 × 数量区分训练和推理
存储存储单价 × 数据量 × 保留时长注意冷热数据分离
人力人数 × 投入比例 × 薪资包括管理和协调成本
数据标注标注单价 × 数据量 × 质量系数质量系数通常大于1
合规安全按项目复杂度估算建议留20%余量
杂项总成本的10%用于意外支出

这个表格看起来简单,但实际填的时候会发现很多细节需要确认。比如算力成本,你需要知道训练和推理的比例,因为推理通常是持续性的,而训练是一次性的。再比如数据标注,质量系数这个变量很容易被低估,返工的成本往往比初次标注还高。

4.3 第三步:设定预算的检查点和退出机制

这是我觉得最重要的一步,也是最容易被忽略的一步。很多团队做预算的时候只想着“怎么把钱花出去”,没想过“什么时候该停止花钱”。我自己的做法是:每个AI项目在预算里设定两到三个检查点,到了检查点如果没达到预期指标,就暂停或者调整方向。

检查点的指标不能是“模型准确率”这种技术指标,而应该是“业务指标”。比如“人工审核工作量减少百分之多少”或者“用户完成任务的时长缩短多少”。技术指标可以作为参考,但不能作为继续投入的唯一依据。我见过太多团队因为“模型效果又提升了两个点”而不断追加预算,但业务上其实没有任何变化。

提示:退出机制不是失败,而是止损。一个及时停止的项目,省下来的钱可以用在更有希望的方向上。我在实际工作中最成功的一次预算决策,就是砍掉了一个已经投入三个月但看不到业务价值的项目,把资源转移到了另一个方向,后者在两个月内就产生了可衡量的收益。

4.4 第四步:准备两套预算方案

我现在的习惯是,每次申请AI预算都会准备两套方案:一套是“基础版”,只包含最核心的功能和最保守的估算;另一套是“扩展版”,包含更多的探索方向和更宽松的估算。然后我会在汇报的时候明确说明:基础版能保证什么,扩展版能多做什么,以及扩展版被砍掉的时候我会优先砍哪些部分。

这样做的好处是,当预算被削减的时候,你不会措手不及,因为你已经想好了哪些部分可以砍。而且审批的人也会觉得你考虑周全,更容易信任你的预算方案。我试过几次,用这种方式申请预算,通过率比只给一个方案高很多。

5. 预算变化对一线从业者的实际影响

5.1 技术选型:从“追新”到“求稳”

预算宽松的时候,大家愿意尝试新技术,因为试错成本低。预算收紧的时候,技术选型会明显偏向成熟稳定的方案。我自己的感受是,2023年的时候,团队里经常讨论要不要试试某个新出的模型架构或者训练框架;到了2024年,讨论的重点变成了“这个方案在生产环境跑过没有”“有没有已知的坑”。

这种变化对一线工程师的影响是直接的:你需要花更多时间在工程稳定性上,而不是在技术探索上。这不一定是一件坏事,因为很多AI项目失败的原因不是技术不够先进,而是工程不够扎实。但如果你是一个喜欢追新技术的工程师,可能会觉得有点压抑。

5.2 团队规模:从“扩招”到“优化”

预算变化最直接的影响就是团队规模。我了解到的情况是,大部分公司的AI团队在2024年都没有明显扩招,有些甚至在缩减。但缩减的方式不是裁员,而是不再补充离职人员,以及把一些非核心的AI岗位转到业务部门。

这对留在团队里的人意味着什么呢?意味着你需要承担更多样化的工作。以前可能只做模型训练,现在可能还要做数据管道、部署、监控。我自己的团队就是这样,每个人都需要懂一点全栈的东西。这其实是一个好的变化,因为AI应用层的很多问题,确实需要跨领域的知识才能解决。

5.3 职业发展:AI技能的价值在重新定价

前两年“会调参”就能拿到高薪的时代已经过去了。现在市场对AI技能的需求在分化:底层的研究能力依然稀缺且高薪,但应用层的AI技能正在变成一种通用技能,就像会用数据库或者会用云服务一样,不再是一个单独的溢价项。

这对从业者的启示是:如果你只会调参和跑实验,你的竞争力在下降;如果你能把AI能力和具体的业务问题结合起来,你的价值在上升。我认识的一个工程师,技术能力中等,但他特别懂电商的推荐场景,能把模型指标和业务指标对应起来,他在团队里的不可替代性比很多技术更强的人还高。

6. 常见问题与应对策略

6.1 预算被砍了,项目还要不要继续

这是最常见的问题。我的建议是:先判断这个项目是“必须做”还是“可以做”。如果是必须做的(比如合规要求或者核心业务依赖),那就想办法用更低的成本做,比如换更便宜的方案、减少非核心功能、延长交付时间。如果是可以做的,那就果断暂停,把资源转移到更重要的地方。

我自己的经验是,预算被砍的时候,最忌讳的是“硬撑”。有些团队为了证明自己的价值,用更少的资源强行推进项目,结果质量下降,反而失去了信任。不如坦诚地跟上级沟通,说明预算削减的影响,让对方来做取舍。

6.2 怎么说服管理层继续投入AI预算

说服管理层的关键不是讲技术有多先进,而是讲不投入的代价是什么。我试过两种方式:一种是讲“如果我们不做,竞争对手做了,我们会落后”,这种方式效果一般,因为“落后”是一个模糊的概念;另一种是讲“如果我们不做,我们现在每个月花在人工审核上的十万块就省不下来”,这种方式效果很好,因为数字是具体的。

所以我的建议是:把AI预算和具体的成本项或收入项挂钩。不要说“这个模型能提升用户体验”,要说“这个模型能让客服响应时间从五分钟降到一分钟,相当于每个月节省多少人力成本”。越具体越好。

6.3 小团队没有专门的AI预算怎么办

小团队通常没有单独的AI预算,AI相关的支出会分散在云服务、人力、工具采购等各个科目里。这种情况下,我的建议是:把AI相关的支出单独归集起来,哪怕只是在表格里做一个标记。这样做的好处是,你能清楚地知道自己在AI上花了多少钱,也能在需要的时候快速调整。

我见过一个小团队的做法很聪明:他们在每个月的云服务账单里,把AI相关的实例和API调用单独标出来,形成一个“影子预算”。这样虽然不能直接控制支出,但至少能做到心里有数。等到需要申请正式预算的时候,他们已经有数据支撑了。

6.4 预算审批周期太长,怎么加快

大公司的预算审批通常很慢,尤其是涉及到新方向的投入。我自己的应对方式是:把大项目拆成小项目,用项目级的快速审批通道先做起来。比如你需要一百万做一年的项目,可以先申请十万做两个月的验证,拿到结果后再申请后续预算。这样虽然总周期可能更长,但至少你能先动起来。

另一个技巧是:找到预算的“赞助人”。这个人通常是业务部门的负责人,他手里有预算,而且他关心的是业务结果而不是技术细节。如果你能让他相信你的项目能帮他解决一个具体的问题,他可能会从他的预算里拨一部分给你,绕过复杂的审批流程。

7. 我个人的几点实操体会

聊了这么多预算相关的事情,最后说几个我自己的真实体会,不一定对,但都是踩过坑之后总结出来的。

第一个体会是:AI预算的本质不是技术预算,而是信任预算。管理层愿意在AI上花钱,不是因为技术有多好,而是因为他们信任做这件事的人。所以如果你想把AI项目做好,技术能力只是一部分,更重要的是建立信任——说到做到、及时沟通、不隐瞒问题。我见过技术很强但失去信任的团队,预算被砍得比谁都快。

第二个体会是:预算收紧的时候,反而是做好工程的机会。预算宽松的时候,大家习惯用钱解决问题,比如加机器、加人、买服务。预算收紧的时候,你被迫去优化代码、优化流程、优化架构,这些工作虽然不性感,但长期来看价值更大。我自己在预算最紧的那段时间,反而做出了最扎实的几个系统。

第三个体会是:不要把所有AI预算放在一个项目上。我见过太多团队把所有资源押在一个“大项目”上,结果项目失败,整个团队的AI预算都被砍了。更稳妥的做法是:用百分之七十的预算做核心项目,百分之二十做相关探索,百分之十做完全不确定的尝试。这样即使核心项目遇到困难,你还有其他方向可以支撑。

第四个体会是:预算的数字不重要,预算背后的逻辑才重要。我见过有人用很小的预算做出了很好的成果,也见过有人用很大的预算什么都没做出来。关键不是钱多钱少,而是你有没有想清楚这笔钱要解决什么问题、怎么衡量效果、什么时候该停止。想清楚这些,即使预算被砍,你也能快速调整;想不清楚,给你再多钱也是浪费。

如果你正在为AI预算的事情头疼,我的建议是:先别急着算数字,先想清楚你要解决的那个业务问题到底是什么。想清楚了,预算的事情反而好办。

RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进