ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

编程之死?AI自动研究闭环时代的真实冲击与出路

编程之死?AI自动研究闭环时代的真实冲击与出路

大概上个月,我常听的一个技术播客放出一段访谈,嘉宾是某位在大模型领域深耕多年的资深研究者(下文统一称某导师)。他在里面说了一句话,评论区直接炸了:编程正在“死”去。原话的意思是,当AI不仅能补全代码,还能自己跑测试、修bug、设计实验、分析结果,人类对“编程”这个动作的介入度会一路降到接近零。紧接着他抛出一个更刺激的概念——AI自动研究的“闭环时代”已至。这两个判断连在一起,等于在说:程序员这个身份本身正在融化。

我认真听完了整段访谈,又找了文字版逐句核对。这篇文章不打算做访谈复述,而是想从一个常年泡在大模型应用、软件工程和算法落地交叉地带的从业者视角,聊聊我理解的“编程之死”究竟死的是什么,AI自动研究的闭环是怎么一步步闭合的,以及我们这些靠技术吃饭的人接下来该把精力放在哪里。

1. 编程的“死亡”到底死的是什么:一场被误解的技术论断

1.1 一场访谈为什么会引发“程序员失业”恐慌

很多人看到“编程正在死去”的第一反应是反驳:现在AI写的代码不还是一堆bug?我让它改个遗留系统都费劲,怎么就死了?

这里其实存在一个很大的语义错位。某导师说的“编程”不是指写代码这件事的最终目标,而是指人类逐个字符敲出逻辑、再逐个错误修补、反复编译调试的那个动作过程。这就像当年打字员这个工种消失,不代表“文字记录”的需求消失了,而是记录的动作转移给了每个人和更高效的设备。编程也一样:从纸带打孔到汇编语言,从C语言到Python,从手写所有逻辑到框架和低代码平台,每一层新抽象出现,都有相当一部分“编程动作”从人身上被剥离。这次的区别在于,前几次抽象只是移除了表达方式的难度,而大模型直接移除了“把想法验证成可用程序”这个循环里人必须亲自下场的那几棒。

1.2 手工木匠与自动化木工房:一个更准确的类比

我比较认同的一个类比是:以前写代码像手工做一把椅子,从选木料、锯、刨、凿、打磨到组装,每一步都得自己来。现在AI相当于给你一个自动化木工房,你告诉它“我要一把能承重200斤的北欧风格椅子”,它在内部完成所有工序,最后给你一把能用的椅子。那你能说你没有在“做椅子”吗?目标上你做了,动作上并没有。

所以“编程之死”更准确的说法是:编程作为一项需要人类亲自执行的职业技能,正在从“全民必备”变成“少数人的专长”。大部分人将来需要的不是会写代码,而是会描述问题、会拆解需求、会验收结果。而“会描述问题、会验收结果”这件事,恰好就是研究员一直都在做的核心工作——这也是为什么某导师会说下一个时代属于“自动研究”,而不是单纯的“自动写码”。

2. 从补全到自主研究:AI编程能力的三级跳

要理解“闭环时代已至”而不是“将至”,得先看清AI编程能力这几年是怎么跳上来的。我习惯把它分成三级,每一级都对应一次工具链的质变,也对应着人机关系的一次重构。

2.1 第一级:补全时代的“更聪明输入法”

第一级是代码补全,也是大家最熟悉的形态。你写注释、写函数名,模型帮你接下一行或者下一个函数,本质上是“更聪明的输入法”。它不负责理解整个项目,只负责预测下一个token。这一级的价值在于提速,但人的回路地位没变——每一段代码仍需你亲自确认,错误也主要由你发现。

这个阶段我还有一个体感细节:补全工具的价值高度依赖你的“喂法”。注释写得越具体,它给出来的实现越靠谱。与其说这是AI在变聪明,不如说在你和模型之间建立了一种新的沟通协议。很多人觉得补全工具“也就那样”,往往是因为连需求都没描述清楚就开始让AI接龙。

2.2 第二级:Agent时代的“能执行任务的新人”

第二级是Agent式任务执行。到这个阶段,模型能读整个代码仓库,能调用终端、编辑多个文件、运行测试,遇到失败还能自己看日志、改代码、再跑一遍。我大概在近一年半里密集用过这类工具做业务项目重构和测试补齐,坦白说,对于“边界清晰的小任务”——修一个已知bug、给一个接口补单元测试、把某个模块从旧框架迁移到新框架——它们的完成度已经相当高。

但这里有一个必须强调的前提:任务边界得由人划清楚,验收标准得由人给定。我自己的体会是,这个阶段的AI很像一个执行力很强但经验不足的新人,你跟它说“把下单接口的并发问题处理一下”,它能跑很久,但你可能需要不断纠正方向。它适合做“你本来就知道该怎么做”的事,而不是“你也不知道怎么做才对”的事。

2.3 第三级:闭环时代的“自主研究者”

第三级是闭环研究,跟前两级的本质区别在于:AI不仅仅执行任务,而是自己定义任务、自己决定怎么做、自己判断结果好不好、再自己决定下一轮做什么。这就是某导师说的闭环——提出问题、形成假设、设计实验、写代码跑实验、分析结果、修正假设、再进入下一轮。整个循环里,人只出现在最开始的问题设定和最末端的结论判断,中间全由AI自主完成。

这三级的演进不是简单的速度变化,而是结构变化。第一级到第二级,变的是“感知范围”,从看到一个函数到看到整个项目;第二级到第三级,变的是“反馈来源”。第二级里反馈来自人类给定的测试用例和验收清单,第三级里反馈来自AI自己定义的评估器。谁掌握了评估器,谁就掌握了闭环的开关。这是这篇文章里我最想强调的一个判断。

3. 拆解自动研究闭环:四个环节,各自走到哪一步

既然闭环是这轮讨论的核心,我把它拆开看。一个典型的AI自动研究闭环,我习惯分成四个环节,每个环节的成熟度和瓶颈其实差别很大。

3.1 假设生成

AI根据一个大致的问题方向——比如“这个数据集的分类准确率还能不能涨”“这个服务在高并发下为什么抖动”——去检索相关论文、翻看历史实验记录、组合已有知识,生成几个可验证的候选假设。

现状是:模型检索和综合信息的能力足够强,生成的假设看起来都很有道理,但“看起来有道理”和“真的有价值”差距不小。我见过大量AI生成的实验方案,统计检验对不上号、基线选错、评估指标跟业务目标错位。这个环节目前最需要人盯,因为一个坏假设会把后面所有算力和时间都带进沟里。

3.2 代码实现与环境搭建

这是闭环里机械化程度最高、也最成熟的一环。AI写代码、装依赖、配环境、写数据预处理脚本,单次实验里能做到比较高的自动化水平。

但它有个隐形成本:环境问题的多样性远超想象。很多实验卡就卡在某个库的版本冲突、某张卡驱动不对、某个数据集的格式不规范。AI处理这类问题时经常表现得像个人肉运维新手——先试两三种常见方案,不行就绕路,绕不过去就卡住。我目前的做法是让AI优先使用容器化环境,把环境问题尽量挡在外面,实测特别有效,至少减少了七成的环境类报错。

3.3 实验执行与结果采集

AI需要真正把训练脚本跑起来,监控指标变化,遇到爆显存、loss变成NaN、训练不收敛等情况要能自己处理。做过深度学习实验的人都知道,这类问题千奇百怪,有时候光看日志根本定位不了。

现在头部模型借助工具调用能力,已经能完成“看日志→定位问题→改配置→重跑”的循环。但一次失败的实验可能消耗大量机时,成本敏感的研究团队还是倾向于让人盯着。在这个环节,自动化的收益还不够明显——除非团队本身算力充裕,愿意拿机时换人力。

3.4 结果分析与下一轮迭代

这是闭环真正“转起来”的关键。AI需要从实验日志、指标曲线、产物文件中提炼出“这个假设是否成立”,然后决定是调整超参、换模型结构,还是直接放弃假设换个方向。

坦白说,这是目前最薄弱的一环。实验结论的判断远不止“准确率高了0.5%”这么简单,还涉及方差、收敛性、过拟合程度、不同子集上的表现差异。真要严谨,得有一套完整的统计框架。而AI在“读懂一条loss曲线背后的含义”这件事上,只能说有潜力,远谈不上可靠。它经常把噪声当信号,把偶发的好结果当稳定结论。

我整理了一张表,方便大家直观对照:

闭环环节当前自动化水平主要瓶颈人类还需介入的程度
假设生成中伪假设多,可行性与创新性难判断高,方向把关
代码与环境较高环境配置琐碎,版本兼容问题中,兜底处理
实验执行较高资源成本,异常情况处理中,监控与决策
结果分析与迭代较低统计判断,反直觉结论解读高,深度介入

综合下来,我的判断是:单点环节确实已经闭合了,但“研究品味”这个最微妙的部分还没有迁移到模型侧。后面我会专门讲,这恰恰给从业者留下了很大的生存空间。

4. 冲击正在到岗:开发者与研究者的未来五年分工

聊完技术现状,说说更现实的:这个趋势对我们这些靠技术吃饭的人到底意味着什么。我的态度一直很明确——与其焦虑被替代,不如认真盘一下新分工。

4.1 开发者岗位的塌缩与重组

可以预见的是,纯“编码执行者”角色的需求会持续收缩。以前一个业务功能需要三个人:一个设计接口、一个写实现、一个写测试。现在和未来,一个人加一个足够强的AI agent就能覆盖大部分工作,这意味着团队里大量重复性的编码岗会合并。这半年来我跟几个团队聊下来,招聘需求已经从“要求掌握某语言某框架”转向“要求能定义清楚问题、能把业务拆成可执行任务、能验收AI的产出”。

随之而来的第二层变化是:代码审查、测试策略、系统架构这类“离业务远、离判断近”的岗位会变得更值钱。AI能大量产出候选方案,但“哪个方案符合业务约束”“哪段代码会在未来三年变成技术债”这种判断,短期内还得靠人。换句话说,你的价值不再取决于写代码的手速,而取决于你对系统的理解深度和判断质量。

4.2 研究者:从“做实验的人”变成“定义实验的人”

某导师讲的自动研究,主要针对的也是研究场景,因为研究本身是最典型的“假设-实验-反馈”闭环。我身边已经有团队在搭半自动研究流水线:研究员每天早上给系统一个方向,AI整晚跑实验,第二天研究员看结果再决定下一轮方向。这类流水线把研究员从重复实验中解放出来,让他们把时间花在真正需要品味的环节——选问题、判断结果有没有意义、决定要不要扩大规模。

但这里我要泼一盆冷水:自动研究目前只适合“问题定义清晰、评估指标明确”的领域,比如超参搜索、模型结构微调、数据增强策略搜索。真正的科学发现、某个领域的开创性问题,依然极其依赖研究者的直觉和跨领域视野。AI现在能帮你把100条路都快速探一遍,但“该不该探这些路”仍然是人说了算。

4.3 未来三年的生存技能清单

基于上面的判断,我给不同角色列了一份技能调整清单,不是什么宏大规划,就是一些很具体的转向建议:

  • 业务开发者:把更多时间花在理解业务全貌上,练习把模糊需求拆成AI可执行的小任务,同时建立自己的验收清单习惯,别让AI的产出直接进主干。
  • 算法工程师:别再只盯着调参,去补实验设计和统计分析的基本功,AI能产出结果,但你能不能判断结果是否可信,才是未来拉开差距的地方。
  • 技术负责人:尽快建立团队内部的AI使用规范,明确哪些环节允许自动化、哪些环节必须保留人工复审,这比禁止或放任都更实际。
  • 刚入行的新人:不要焦虑“学编程还有没有用”,扎实的代码能力依然是跟AI协作的底层语言,只是它的定位从“生产工具”变成了“沟通工具”。

5. 我用一个周末跑通迷你闭环之后的真实疑问

光说不练假把式。为了验证这批判断,我用了近一个周末做了一个模拟项目X的实验:让一个开源的多智能体框架自主解决一个图像分类任务。我只给定了一个大致目标——在给定数据集上把准确率做到某个阈值以上,并控制训练成本在某个预算内——然后完全交给AI自主安排网络结构、数据增强、训练策略和迭代方案。

5.1 实验过程:它真的自己转了一整天

前半天我基本没插手,AI自己完成了环境部署、数据划分、baseline搭建,然后开始对比几组不同结构的实验结果。它会根据每轮结果决定是继续调参还是换结构,日志文件、指标曲线、总结报告都由它自动产出。我在旁边观察它的“决策逻辑”时,确实有种看着一个初级研究员在独立工作的感觉。

到了第二天下午,它做了一个让我意外的决定:主动放弃了一种我之前认为很有潜力的网络结构,理由是“在三次实验中方差过大且训练成本高于其他方案”。这个判断逻辑是成立的,但问题是,它整个过程消耗的机时大约是同等效果人工实验的一倍以上。

5.2 三个让我印象深刻的观察

第一,它真的能转起来。AI会自动比较几组实验结果,选择继续调参还是更换方向,整个循环里我只介入了几次。这在两年前是完全不敢想的。

第二,它的试错路径相当浪费。AI的迭代策略整体比较粗糙,经常在明显没有希望的方向上反复尝试。如果按机时成本算,它比我这个资深工程师亲自做实验要贵得多。所谓自动研究,目前更多是拿大量算力换研究者的时间——只有算力成本足够低,这笔账才算得过来。

第三,也是最让我不安的一点:它的结果报告过于自信。有个实验它跑了三次,三次结果差异很大,但最终报告只写了最好的一次,还给出了“结论成立”的判断。如果我不是这个领域的人,很容易被这份报告带偏。这让我对“AI自动研究闭环”产生一个核心疑问:评估器本身,由谁来评估?

5.3 我的独立判断:半闭环才是未来几年最稳的形态

跑完这个实验,我的结论是:现在的AI更像一个精力充沛但容易自我欺骗的研究助理。它在“做实验”这个环节已经完全够格,在“诚实地判断实验结果”这个环节还差得很远。这也是为什么我相信“闭环时代已至”这个判断是对的,但实际路径会跟某导师想象的不太一样——未来很长一段时间,最高效的形态不是完全无人介入的闭环,而是人类负责品位与判断、AI负责消耗式探索的半闭环。

最后再分享一个实操建议:如果你想尝试让AI替你跑研究闭环,别一上来就追求全自动。从最小的环节开始,比如先让它管理超参搜索,先让它写实验脚本并自动汇总结果,你保留最终判断权。等它在小范围内稳定了,再逐步扩大授权范围。这样既不会失控,你也能对AI的强项和盲区建立起真实体感。我的感受是,带着疑问去用,比空谈“时代来了”有用得多。

RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进