35岁，程序员，这两个词叠在一起，在现在的职场上很容易让人焦虑。但如果把目光从“焦虑”挪开，放到“大模型”这三个字上，你会发现一条完全不同的路。我身边好几个三十五六岁的老开发，去年还在愁晋升通道变窄，今年已经靠大模型相关的技能拿到了超出预期的机会。作为在这个领域摸爬滚打了几年的从业者，我想把一个完整、可落地、能直接抄作业的转行路径分享出来，从为什么转、学什么、怎么练，到怎么写简历、怎么面试、怎么避开坑，一条龙讲清楚。这不是一篇劝退文，也不是打鸡血文，而是一份写给“老兄弟”们的实操路线图。
1. 转型方向不在“算法”，在“落地工程”
1.1 先想清楚：你要抢的不是算法工程师的饭碗
很多35岁的朋友一提到转行大模型，第一反应是去卷算法岗，补机器学习、深度学习、数学推导，跟二十几岁刚出校园的硕士博士拼论文复现。说实话，这条路对大多数人来讲性价比极低。你拼数学基础能拼得过科班出身的研究生吗？拼发论文的速度能拼得过正在读博的年轻人吗？大概率拼不过，而且也没必要拼。
大模型这个赛道，真正缺的不是能推导Attention公式的人，缺的是能把模型用起来、把效果调出来、把成本降下去、把业务接进来的人。这类岗位叫大模型应用工程师、提示词优化工程师、AI产品落地专家、RAG系统开发工程师、Agent应用开发工程师。这类岗位要什么？要工程能力，要业务理解力，要踩坑经验。这恰恰是35岁程序员的强项——你写过那么多业务代码，调过那么多线上故障，背过那么多需求黑锅，这些都是年轻算法工程师不具备的。
所以转型的第一步不是拿起数学书啃，而是完成心态上的转变：你的竞争对手不是应届算法岗的大军，而是还在观望的同类程序员群体，你要抢的是“懂业务的AI应用开发者”这个身位。
1.2 35岁程序员的三个隐性优势
转行这件事，不同年龄的人起跑线不一样。三十五六岁的人看起来体力不如年轻时候，但至少在三件事上有独特优势：
第一是工程落地经验的厚度。一个干了十几年的后端开发，对系统架构、接口设计、数据流转、异常处理、性能优化这些东西几乎形成了本能反应。大模型应用落地的核心难点恰恰不在模型本身，而在工程化——把大模型接进现有系统、处理延迟、处理错误格式、控制成本、保证数据安全，这一整套逻辑跟传统服务端开发没什么本质区别。
第二是业务认知的广度和深度。你写过电商系统的订单模块，就知道用户下单后库存扣减和超卖处理有多麻烦；你做过内容平台，就理解推荐策略和用户留存之间的关系。大模型应用最终要落到具体业务场景中产生价值，谁懂业务，谁就能提出有价值的大模型应用方案。
第三是稳定的情绪和对结果的负责态度。团队里的大模型Demo谁都会用Streamlit写一个，但把一个Demo变成稳定跑在生产环境里的功能，需要的是对线上敬畏、对细节抠到底的精神，这通常是有多年线上故障经验的人才会有的职业素养。
认清这三点，后面所有学习路径和求职策略都围绕它们展开，而不是拿自己的短板去跟别人的长板硬碰。
2. 用两到三个月搭建大模型认知和实战基本功
2.1 知识框架：不需要从数学开始
我见过太多人转型失败，挂就挂在第一步——买了一堆深度学习经典教材，准备从头开始补数学。结果一个月后卡在反向传播推导上，人直接放弃。这里给出一条务实的路线：倒着学。
什么叫倒着学？就是你不需要先懂Transformer的全部原理再去调用大模型API，而是先学会用大模型解决问题，在用的过程中遇到疑问，再带着具体问题回去查原理。做菜不需要先从有机化学学起，先照着菜谱做，做得多了自然理解火候和调味的逻辑。
具体来说，第一阶段的知识框架包括以下几块：
第一，大模型基础认知。搞清楚GPT、ChatGPT这类产品背后的技术栈分层：最底层是大模型本身，比如开源社区的Qwen系列、Llama系列；中间层是API接口和服务，比如OpenAI的接口格式、各家国内服务商兼容的接口；最上层是应用，比如你写一个聊天机器人、一个知识库问答工具。知道每一层解决什么问题、适合什么样的玩家，就够了。
第二，Prompt工程基础。这不是简单学几个“请帮我”的套话模板，而是理解大模型的工作机制：它能根据你给的指令和上下文生成内容，你的指令越清晰、给的示例越准确、约束条件越具体，它输出的质量就越高。需要掌握的系统性技巧包括角色设定、思维链引导、Few-shot示例、结构化输出约束这几项。
第三，API调用和结构化输出处理。学会用Python调用大模型接口，会处理返回结果中的JSON数据，会对模型返回的格式不稳定的情况进行兜底处理。这一项对老程序员来说基本属于送分题。
2.2 动手第一个Demo：七天做出一个像样的AI助手
光看书没用，必须动手。我建议你从做一个最简单的“知识库问答机器人”开始，不是因为它简单，而是因为它几乎包含了未来所有大模型应用开发都要用的核心环节：外部知识引入、向量化、索引存储、语义检索、上下文组装、兜底逻辑。
具体的技术栈这样选：后端用Python的FastAPI或者Flask，前端不用太复杂，简单的Web页面即可，或者直接用命令行交互也行。核心模块包括：一个文档加载模块，负责把PDF、Markdown、TXT文件读进来，按段落或固定长度做文本切分；一个向量化模块，调用开源Embedding模型或者云服务接口，把文本变成向量；一个向量数据库，业内几款主流的比如Chroma、Milvus、FAISS都属于性能不错的开源方案，个人项目用Chroma起步最快；还得有一个大模型调用模块，负责把用户的问题向量化，去向量库里检索出最相关的几个文本片段，拼接成Prompt发给大模型，最后把答案渲染出来。
这个Demo做完以后，你基本就把RAG（检索增强生成）的完整链路跑通了一遍，以后再聊什么“知识库问答”“企业私有化部署助手”之类的概念，心里就有底了。
2.3 两种主流技术路线的对比与选择
我不建议你上来就什么都学，先把两条路线看清楚，选一条作为主线：
第一条是RAG路线。主要解决的是“让大模型知道它没学过的知识”这件事：把文档切成小块、向量化、存进向量数据库，用户提问时先做语义检索，把相关内容取出来再喂给大模型生成答案。优点是实施相对简单、知识更新方便、幻觉率可控性强，适合做企业内部知识库、客服助手、文档问答这些场景。缺点是它本质上还是“查资料再总结”，对复杂推理任务帮助有限。
第二条是Agent路线。让大模型具备使用工具的能力：大模型不直接回答问题，而是先分析用户的意图，然后去调用外部工具，比如查天气的API、查数据库的SQL工具、操作浏览器的插件，最后把工具返回的结果整理给用户。优势是能做复杂任务自动化，比如让AI帮你查月度报表、自动汇总邮件、自动处理工单。缺点是链路长、稳定性差、调试成本高。
对转入者来说，**我强烈建议先以RAG为主路线，把Agent作为进阶方向。**原因是RAG的工程难度适中，和大模型之外的系统交互少，更容易在个人学习阶段完整跑通；Agent涉及的工具调用、多轮对话状态管理、异常恢复机制，复杂度会成倍上升，等RAG链路熟练之后上手会顺很多。
3. 三个阶段的里程碑项目
3.1 阶段一：个人知识库助手
时间目标：两周。
功能要求：上传几本你工作领域的PDF文档，比如系统设计相关的书籍、技术规范文档，然后能够用自然语言提问：“在微服务架构中如何做分布式事务？”你的系统能从文档中找到相关内容并结合大模型组织出答案。
做完这个项目，你需要能回答三个问题：第一，向量化时Embedding模型是怎么把一段话变成一串数字的？第二，语义检索和关键词检索有什么区别、为什么混合检索效果更好？第三，常见的文本切分策略有哪几种、各有什么优缺点？这三个问题应对面试绰绰有余。
做完之后记得做一件事：写一份技术文档，画出系统的架构图，记录你遇到的问题和解决方案。这既是巩固，也是后面放进简历里的素材。
3.2 阶段二：结构化数据问答系统
时间目标：三周。
第二个项目再上一个台阶。场景设定为：你面前有一张Excel或者一份数据库表，里面是公司某段时间的销售记录，用户可以用自然语言询问“上个月华东区销量最好的产品是什么”“上季度同比增长率最高的是哪个品类”。这类任务单靠RAG不行，因为大模型不擅长精确计算，它需要一个“翻译器”把自然语言转换成SQL或者Pandas代码，再去查数据，最后把结果转成自然语言回答。
这个项目会让你接触到Text-to-SQL、大模型的Function Calling能力、代码生成后的安全性校验、错误重试机制。做完它，你就从“用大模型聊天”进阶到“用大模型解决实际问题”了。
3.3 阶段三：带业务逻辑的Agent应用
时间目标：一个月。
第三个项目，需要你做一个带工具调用的Agent。目标场景：一个IT服务台的智能助手，员工说“我的电脑连不上打印机”，Agent需要判断这个问题的类型，调用资产信息查询工具确认这个员工所在部门的设备信息，再调用知识库检索解决方案，如果还不能解决，则需要调用工单系统API自动创建一条待处理工单，并把工单号回复给用户。
这个项目的重点在于：规划任务的拆解、给Agent配置有限工具集并做好参数约束、设计人工介入的兜底机制、对API调用异常的处理与回复生成。做完这一个项目，你的实战能力已经可以覆盖大部分公司里大模型应用岗位的日常工作了。
4. 简历重构与求职落地的关键动作
4.1 简历不是“转行者”而是“转型已发生”的状态
坦率地说，用人单位对“35岁转行”多少还是有些顾虑的，主要担心是：这人是一时冲动，还是真想清楚了？这会不会学到一半又跑回老本行？为了打消这种顾虑，简历的呈现策略要非常讲究。
不要写“期望转行大模型领域”“正在学习大模型技术”这种表忠心的措辞，这在HR眼里是减分项。正确的做法是：把你近期的实际项目放在简历最显眼的位置，用项目本身说话。比如你可以把第二章节的三个项目浓缩成一个叫“面向企业内部知识库的AI问答系统设计与实现”的项目，写清楚技术架构（FastAPI+向量数据库+大模型API+数据处理流水线）、核心指标（文档召回准确率达到多少、首答成功率多少、响应时间多少）、你的角色（独立完成全链路设计与开发）。这样简历读起来像是一个已经具备大模型应用开发能力的工程师，而不是一个准备转行的初学者。
同时，你过去十几年的后端开发经验不要丢，要跟大模型能力串起来讲。比如你做过支付系统，可以说“基于大模型构建风险交易检测智能助手，利用历史交易数据+RAG方案定位可疑交易”；你做过内容社区，可以说“落地大模型驱动的个性化内容摘要与智能标签体系”。这样呈现出来的形象是：一个懂老业务的工程师，同时具备了新技术的能力。
4.2 找准目标岗位画像并精准匹配
求职时不要说“我要做AI”，这太模糊。根据前面做的项目经验，目标岗位可以分三类：
第一类是“大模型应用开发工程师”，核心职责是基于现有大模型能力建设内部工具和产品功能，比如智能客服、智能搜索、内容生成助手。对应你做过的知识库项目。
第二类是“AI平台 / 基础设施工程师”。这类岗位常出现在中大厂，职责是建设大模型应用的底层平台，包括Prompt管理、日志监控、成本统计、数据回流、模型灰度发布。这类岗位非常适合老后端，你的工程经验、系统设计能力全部用得上，大模型相关的内容只需要对概念有基本认识，然后边做边学。
第三类是“行业解决方案专家”，常见于做企业服务的公司，方向是用大模型解决具体行业痛点，比如金融领域的智能研报、法律领域的合同审查。这类岗位重视行业know-how外加对大模型应用的理解，35岁的老开发很有优势。
简历投放时，不要海投，挑准这三类岗位里跟你经历重叠度最高的方向，认真改简历，一版一版地针对JD调整项目描述中的关键词。
4.3 面试中的项目经历答辩策略
面试官一定会问你做过的项目里最关键的技术难点。提前准备好三个方向的深度解释：
一是在知识库系统中，做文本切分时，固定长度切分和按语义段落切分各自有什么优缺点？你选的方案是什么，为什么？这里要体现出你做过对比实验，踩过乱切分导致检索效果差的坑。
二是面对大模型“幻觉”问题，你的方案是什么？从Embedding选择、Top-K参数调整、Prompt中加入“如果文档中没有相关信息就直说不知道”、增加答案引用溯源这几个角度展开说明。
三是追问并发和性能问题。你的接口平均响应时间是多少？如果用户量从1个人变成1000个人，瓶颈在哪里？如何优化？这部分你能接住，展示出老工程师的架构能力，面试基本就成了一大半。
5. 绕开这三个坑，你比大多数人走得快
5.1 别陷入“无限学习”的泥潭
大模型领域的知识更新速度极快，每天都有新论文、新框架、新概念冒出来。今天多模态，明天Agent，后天具身智能，如果一直跟在热点后面学，一年下来什么也没学扎实。我自己见过不少朋友，Transformer还没搞明白，又跑去研究MoE架构，最后被信息洪流淹没。
务实的做法是设置一个“当前学习边界”：只学当前主线需要用到的知识，其余看到标题先收藏，不动手。比如你做RAG，就先不碰模型训练和微调的细节，先把Embedding、向量数据库、检索策略搞透彻。等主线项目做出成果了，再根据业务需要往深水区走。
5.2 别忽视成本和安全这两根红线
做个人项目时没有人会强调成本问题，但一旦进入企业环境，这两件事会被无限放大。大模型的API调用是按Token计费的，一次普通的问答请求可能花几分钱，看起来很便宜，但一天几千上万次调用，费用就变得非常可观。在设计方案时一定要有“省钱”意识：优先用小模型解决简单问题，简单问题不需要每次都调大模型；能缓存的结果坚决缓存；定期查看调用日志找异常高消耗。
数据安全更是一条红线。企业内部文档、客户数据、业务数据，直接扔给公有大模型API是绝对不允许的。作为大模型应用的工程师，你需要给出一个合规的方案：数据脱敏、私有化部署开源模型、或者至少做到敏感数据不出内网。面试时主动谈这些，会显得你非常专业。
5.3 别一个人闷头学，尽早进入交流圈
转型路上最大的敌人是孤独感。一个人写代码、调bug、做项目，遇到一个报错可能卡半天没人讨论，信心会在不知不觉中被消磨掉。建议尽早找一个组织：可以是线上的技术社群，也可以是线下的AI开发者聚会，哪怕只是在社区里写写自己的学习笔记和踩坑记录也行。
写作是一种特别好的学习方式，你在把一个知识点讲清楚的过程中，会发现自己哪里其实没懂。而且这些记录未来就是你的作品集和面试素材，一举两得。
6. 从现在开始，用一周时间做完第一里程碑
如果看到这里你已经决定行动，那么这周就做这些事：
周一：把OpenAI或者国内合规大模型服务的账号注册好，把API接入方式跑通，用Python写一段脚本调用模型生成一个简单的回答。不熟悉的话，多看官方文档，照着示例跑一遍。
周二：梳理一遍RAG的核心流程概念，把每个环节的输入输出搞清楚，画一张流程图存着。
周三：安装好Python环境、向量数据库、文本处理相关的依赖库。如果本机没有合适的GPU资源，直接用网上免费的Embedding接口或者本地小模型，先把链路跑起来。
周四到周五：写一个最简版本的知识库问答脚本，功能不追求完善，只要能上传一个文本文件，提问后能返回相关内容就可以。
周末：把程序整理好，写一篇简短的项目总结文档，记录自己的体会和卡点。
别小看这一周，它验证的不只是你的技术可行性，更是你的转型决心。狠一点说，连这一周都坚持不下来的话，后面三个月的转型路也确实没必要走了。
我在实际操作中最大的一个体会是：35岁转行大模型，真正难的不是技术，而是克服“我都这个年纪了还折腾什么”的心理阻力。一旦迈出第一步，后面每一步都是用经验在加速。这条路径我已经见过好几个人验证过了，如果你按着它走，三个月后大概率会比现在多一张有分量的牌，半年后可能就站在一条新赛道上了。
