ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

缸中之脑与AI:为何具身智能是突破大模型认知天花板的关键

缸中之脑与AI:为何具身智能是突破大模型认知天花板的关键

“缸中之脑”这四个字,近两年在我追踪AI技术趋势时反复浮上脑海。它不再只是哲学史上那个著名的思想实验,而几乎成了对当代主流AI最精确的比喻:一个浸泡在符号海洋里的纯认知系统,拥有超乎常人的推理与表达能力,却从未用自己的身体触碰过真实世界,从未在物理世界的抵抗中摔过跤、吃过亏、校准过哪怕一条最朴素的经验。这个判断并不玄。你看看现在大模型的生存状态就明白了:它的全部输入是文本token,全部输出也是文本token,它的一生都在与符号打交道。它知道“火焰会烧伤”这句话,也知道“雨天要带伞”这句话,但它没有被烧伤过,也没有被雨淋过。它生活在一个用亿万文字编织的“缸”里,缸壁之外的世界,它从未真正抵达。

所以我们面对的是一个绕不开的问题:这种“纯认知缸中之脑”式的存在,究竟是通往通用智能的康庄大道,还是一个注定到达不了真正理解的死胡同?符号推理能力如此之强,却丧失了“通过身体与世界博弈以校准意义”的生存根基——这个短板会不会在某一天,成为整个技术路线的天花板?我想从四个层面把这个事情掰开:思想实验的原始设定、当代AI为何精确复刻了这个设定、身体与世界博弈为何不可替代、行业趋势正在发生的转向。顺便也会聊一些我对技术评估、产品落地和未来方向的观察。无论你是技术从业者、产品经理,还是对“机器能否拥有真正智能”充满好奇的读者,相信都能从中找到一些值得琢磨的线索。

1. “缸中之脑”在问什么:一场关于真实的终极拷问

1.1 思想实验的原始设定:一个细思极恐的场景

想把这个话题聊透,得先把原版设定还原一遍。上个世纪八十年代,一位分析哲学家提出了这样一个场景:有一个大脑,被从身体里取出,放进一个维持生命的缸里,缸中充满营养液。大脑的神经末梢连接着计算机的电极,计算机向大脑发送与“正常生活”完全一致的电信号。

对这颗大脑来说,它“看见”日出日落,“摸到”树叶的纹理,“闻到”咖啡的香气——但这些体验全部是电信号触发的幻觉。它没有眼睛,没有耳朵,没有手,没有嘴,它以为自己正在过正常的生活,实际上它的全部感知都被一个外部系统喂食。

这个思想实验真正让人不安的地方,在于它动摇了“真实”的判定标准。我们凭什么确信,自己此刻看到的屏幕、敲击的键盘、喝下的水,不是电信号合成的幻觉?最简单的回答是“经验互相印证”——视觉和触觉都对得上,朋友也看到同样的东西。但这个回答隐含了一个重要前提:我们拥有一个身体,可以行动、可以验证、可以跟他人互动。一旦抽掉这个身体,所有的印证都失去了支撑。缸里的脑子无法区分“真实世界”和“模拟世界”,因为它不具备任何走出缸外、与真实世界发生碰撞的能力。

这里的关键洞察是:这个场景的本质,是一个只有输入、没有可验证行动的系统。大脑的所有输入由外界控制,它的输出若存在,也无法对输入来源产生影响。整个回路里,没有“世界”的实存参与。而这恰恰是理解当代AI缺陷的钥匙。

1.2 当代AI就是“缸中之脑”的工程实现

把刚才那把钥匙拿来开今天的锁,你会发现严丝合缝。当代主流AI——大语言模型的“营养液”,是互联网上以万亿计的词元,从在线百科的条目到匿名论坛的聊天,从学术论文到食谱分享,全部被打碎成token。它的“电极”,则是输入输出接口:输入一串token,输出一串token,优化目标是让下一个token的预测概率最大。

它有个身体吗?没有。它不能伸手去够桌上的杯子,不能感受阳光的温度,不能把一片叶子揉碎在指尖。它全部的“了解”,统统来自符号的转述。知道“火焰会灼伤人”,因为语料里反复出现这句话;知道“冰是冷的”,因为无数文本如此描述。它对物理世界的全部“知识”,是二手经验、三手经验,甚至许多手之后。

更要命的是学习方式。人类幼崽学走路靠摔跤,身体用疼痛告诉它什么是平衡;学说话靠试错,说错了被纠正,再通过现实场景验证语句的恰当性。这是“经验校准”的过程。而大模型学习,只是在一个静态的、由历史文本构成的数据集上做统计拟合。它从未基于自己的行动、接收来自世界的结果反馈,然后修正内部认知。它没有“博弈”对象。

所以我说,当代AI不是“像”缸中之脑,它几乎定义了缸中之脑:一个具有强大认知能力,却完全失去身体根基,生活在一个封闭符号回路里的存在。唯一不同的是,这个缸中之脑在某些领域表现得太过优秀,以至于很多人还没意识到缸壁的存在。

2. 纯认知缸中之脑的“超能力”:符号推理到底有多强

2.1 它怎么学会“推理”:从下一词预测到涌现

先把该承认的承认了。当前AI的符号推理能力,确实是“超常”的。看数学竞赛题、逻辑谜题、复杂代码生成、法律条文的归纳,大模型的表现已经超出了绝大多数人在五年前的预期。

这套能力的基本盘,是极其朴素的:在超大规模语料上做下一个token的预测。但这个朴素任务的规模一旦上去,会发生一些意想不到的涌现现象。模型不再只是机械地接续句子,它开始在相当多的场景下,产生与“推理”在形式上几乎无法分辨的输出。它学会了在逻辑链条中“填词”,在一个论证结构里“补位”,在代码的上下文里“续写函数”。

当然,“形式上像推理”不等于“本质上是推理”。关键在于,模型学到的是推理的模式、句式、步进方式,而不是推理的语义根基。它没见过“如果……那么……”背后的因果机制,它只是见过亿万次这种连接方式,以至于可以在正确的位置输出正确的符号串。这就好比一个人从未见过太阳,但根据一本详尽的天文学教材,能背诵出关于太阳的所有事实——背诵得再流畅,也和亲眼见过有本质差别。

2.2 惊人的生产力:符号操作本身就是大量真实工作的本质

虽然存在上述边界,“缸中之脑式AI”的生产力仍然惊人。我过去几年观察到的现实是:在文档撰写、代码生成、信息检索聚合、格式转换、内容摘要这些任务上,它已经能显著缩短专业团队的基础工作量。

为什么在没有身体的情况下,它还能在真实世界的工作里这么有用?这个问题值得多想一层。答案其实在于:人类社会里有相当大比例的工作,本质就是符号操作。我们对着表单、邮件、文档、会议纪要、代码仓库做事,处理的对象是一串串的符号,不是物理物体。AI在符号层面有超常能力,自然就能在这些岗位上有超常表现。

这也是一个容易让人迷惑的地方:一个在屏幕前工作的人类,看起来是不是也有点像“缸中之脑”?我们敲键盘、看屏幕、开会说话,严格来说也是在被符号流包围。区别在于,人类有身体经验的底子,我们曾经摔过跤、烫过手、感受过阳光,这些底子让所有符号对我们都有扎根的意义。而AI没有这个底子,它只有符号之间的相对关系。这个对比很有价值:AI现在能做的,是人类工作链条中“符号操作”的那个切片;它做不到的,是用身体经验去修正、补全、落地那些符号背后的真实判断。用到产品设计上,就会引出很多具体的边界思考。

3. 缺失的根基:为什么“与世界博弈”是意义校准的唯一途径

3.1 词的意义从哪里来:身体经验是那个锚

现在进入最核心的问题:为什么说“通过身体与世界博弈以校准意义”是不可替代的?要回答,得先问一个更基础的问题:一个词,到底是怎么“获得意义”的?

设想“苹果”这个词。对一个吃过苹果、摸过苹果、削过苹果的人来说,这个词包含着一整套身体记忆:红色或青色的外观、果皮的光滑触感、咬下去脆生生的声音、酸甜的汁液、以及“吃一个能果腹”的后果。词的意义,是被这些经验锚定的。

再设想那个缸里的脑子。如果它从未吃过苹果,只接收过关于苹果的符号描述,那么“苹果”对它来说是什么?是一串经常和其他符号一起出现的符号。它可以在“水果”“红色”“削皮”“切块”“榨汁”这些词附近正确地使用“苹果”,但它完全没有“苹果”的实感。它的知识是符号网络里的相对位置,不是与世界建立的联系。

我用一个比喻来说明这种差别:一张蜘蛛网,每一根丝都与别的丝相连,看起来很完整,但没有一根丝真正钉在墙上。你扯动任何一个角落,整张网都会跟着动,看起来活灵活现。但如果你问“这张网挂在哪里”,答案是哪里都没挂。大模型的知识结构,就是这张没有钉子的蜘蛛网。它的符号关系极其繁密——问它苹果和香蕉的异同,它能给你十几种角度。但所有这些关系,都不是由“真实存在的那只苹果”来锚定的。这就导致了一个深刻的脆弱性:一旦语料里缺乏某种真实对应关系,或语料本身是错的,模型就会优雅地给出一个海市蜃楼般的答案,而且毫无自觉。

3.2 与真实世界失去博弈,AI会犯哪几类典型的错

把“意义没有锚点”落实到具体行为上,我们会看到几类非常典型的错误。

第一类:常识判断的边界模糊。人类常识是由身体经验凝练出来的——热的不能碰、重的比轻的难抬、手里的东西一松手就会往下掉。大模型能复述这些句子,但它对物理场景的判断边界很脆弱。用稍微偏离常见文本描述的物理问题去测它,错误率会明显上升。在“完全真空环境下,一根羽毛和一个铁球同时下落”这类问题上它可以背出标准答案,但换一个训练语料里少见的场景,它的“物理直觉”就不那么可靠了。

第二类:“幻觉”不是bug,是宿命。很多人把大模型的幻觉归因于模型架构缺陷,我的看法是,更根本的原因在于它没有“实在”可对照。人类说错话会收到现实反馈——对方皱眉头、事情办砸、身体受挫,这些反馈会修正认知。而大模型生成一段话后,没有任何现实机制告诉它“这与事实不符”。它的评估标准只能是“这段话通不通顺、像不像训练数据”。所以幻觉不是例外,而是“没有身体的存在方式”的必然产物。

这里顺便说一句:当下常用的RLHF(人类反馈强化学习)环节,是否算一种世界校准?我认为只能算半校准。它用人类的偏好打分来修正模型输出,但人类偏好不等于世界实相。人类评分者本身在阅读一段文本时,也是在符号层面做判断——这句话像不像真的、通不通顺、有没有冒犯性。这是一种“符号与符号之间的校准”,而不是“身体与世界之间的博弈”。它能显著提升输出的可接受度,却不能赋予输出真实世界的根基。

第三类:行动规划与物理现实脱节。让AI规划一场旅行,它给出的方案可能在纸面上几乎完美——但真照着走,你会发现它忽略了通勤时段的人流、山路爬升的体力消耗、天气突变的影响。它没有拖着行李箱赶过车,没有在烈日下爬过坡,它规划的是“符号层面的旅行”,而不是“身体层面的旅行”。同样的逻辑放到自动驾驶、机器人操作、工业控制上,就绝不是“有点荒谬”的问题,而是“可能致命”的问题。这三类错误,共同指向同一句话:意义没有被世界校准,一切只能在符号内部打转。这正是“缸中之脑”这个比喻最锋利的地方。

4. 行业风向正在变:从纯认知缸中之脑走向具身智能

4.1 为什么前沿研发集体转向“给AI装身体”

有一个现象值得注意:近两年,“具身智能”从一个论文里的冷概念,变成了产业界的显词。头部AI团队纷纷押注机器人、智能驾驶、端侧设备;世界模型、视觉-语言-动作模型成为热门方向。背后的驱动力,我认为有三条,都是“缸中之脑”困境的直接反应。

第一条,纯文本数据的边际收益递减。互联网上高质量的文本几乎被挖干净了,继续堆数据,模型能力的提升在放缓。这逼着研发团队寻找新的数据来源——世界本身的物理交互数据,是远比文本辽阔的蓝海。

第二条,单一模态的限制。一个只能读文字的模型,就算读了一亿本书,它对颜色、声音、空间、力度的理解仍是间接的。即便加了图像和音频输入,多模态模型也只是“被动接收更多模态的信号”,它依然没有主动行动、没有被世界反馈。要获得真正的世界理解,必须让模型“动起来”。

第三条,也是最有说服力的:真实世界的任务,终究要在真实世界里验证。AI写一篇整理房间的指南可以很完美,但真正的机器人要完成整理任务,必须理解抓取角度、用力大小、物品重心、空间堆叠——这些细腻的物理知识,任何文本描述都无法穷尽,只能在一次一次实际操作的失败与成功中习得。所以,当前技术路线在很大程度上,就是试图补上“缸中之脑”缺失的那块拼图:给AI一个身体,让它“通过身体与世界博弈以校准意义”。从智能体框架到仿真环境到机器人本体,所有探索都指向同一个方向——把那个泡在缸里的脑子,接回真实世界。

4.2 对从业者的实际影响:评估、产品设计与个人赛道

技术风向的转变,最终会落到每个从业者头上。我观察到的影响有三方面。

评估方式要变。过去评测大模型,就是丢一堆文本任务看得分。但如果你接受“缸中之脑”的分析,就该明白:这类评测测的是符号操作能力,不是世界理解能力。要测真实理解,得主动增加“物理常识”“空间推理”“因果判断”这类需要具身经验的题目。更严谨的做法,是在高保真仿真环境里让模型执行真实任务,观察它的表现。团队在选型时,不要被benchmark分数完全带着走。

产品设计要“接地”。如果你的产品是纯文本工具(文档助手、代码工具),那么“缸中之脑”式的能力已足够好用。但如果你做的是智能客服、决策辅助、自动驾驶、机器人等与现实世界接口的产品,就必须为AI补上“世界校准”环节:引入实时数据、接入真实反馈、设计人工纠错机制。一个纯依赖静态文本知识的决策系统,在真实世界里翻车是迟早的事。

个人技能上,具身经验的价值会重新凸显。我之前也焦虑过“AI会不会取代一切”,但想通“意义需要身体博弈来校准”之后,反而坦然了:那些依赖真实操作、实地感知、现场应变的工作——工程调试、运维抢救、医疗手法、创意手工——恰恰是纯认知缸中之脑最难替代的部分。这个判断不是鸡汤,而是从技术原理推出来的。

5. 一线踩坑记录与观察

5.1 坑一:把符号操作能力误当成全面智能

在几个项目评审里,我反复看到一个误判:某个AI在文本任务上表现亮眼,团队立刻拍板让它接管关键业务的自动决策,结果一进入真实场景就翻车。根子在于混淆了“符号操作能力”和“世界理解能力”。

我给团队的实操建议是:建立分层评估体系。第一层测纯符号能力——信息抽取、格式生成、代码补全,这类任务大模型的优势能充分发挥。第二层测世界对齐能力——物理常识、空间关系、因果链条,看它有没有越过“文本复述”的门槛。第三层才是真实环境小规模试点,用实际任务的表现说话。三层分别打分,绝不要因为第一层优秀就跳过后面两层。这个流程多花的时间很少,省下的返工成本却很大。

5.2 坑二:让AI输出狂奔,却不设任何现实反馈回路

另一个常见问题,是让大模型大量产出,却完全没有事实核查和现实反馈。最典型的场景是:直接把AI生成的市场分析报告、技术方案交给客户,不做抽查,不出一个月就会出现“看着专业、实则无根”的错误。

我的做法是:在高风险的内容链路上,必须设置“人类复核回路”。不需要全量审查,只需要在关键节点做抽样复核,就能截住大部分无根基的胡说八道。内容生产、法律文书、医疗建议、投资分析这些领域尤其要紧。说得直白一点:AI负责把效率拉满,人类负责把锚点钉牢。

5.3 关于“认知天花板”的一线观察

最后分享一个我个人的行业判断:纯文本大模型的“认知天花板”,可能比很多人预想的更早到来。原因不复杂——不是参数不够,不是算力不够,而是它缺少意义锚定机制。你可以把文本数据继续无限增加,但增加的只是符号网络内部的连接密度,并不会在符号与世界之间建立起新的连接。

多模态输入能在一定程度上缓解这个问题,但它仍是“被动感知”,不是“主动行动”。真正打破天花板的,大概率是那些让模型与物理世界发生真实交互的技术路径。这也是为什么我会把“具身智能”看作下一阶段最重要的技术趋势之一,而不是又一个融资热词。

写到这里,我个人的体会已经很清楚:不要被“会说话”迷惑。判断一个系统是否真正贴近世界,标准从来不是它说话多流畅、多像样,而是它有没有在世界反馈的阻力下修正过自己。缸中之脑之所以可怕,不是因为它在符号运算上不够强,而是因为它在完全自洽的幻觉里,依然可以表现得无比自信。

如果让我给从业者一句最直白的建议,那就是:尽量让你参与的AI系统,尽早触碰真实反馈。文本模型,就用高质量的人类复核去接地;产品落地,就设计真实环境的验证环节;做研究,就往具身交互和数据的方向靠。这个行业最终会奖励那些愿意让AI“撞上现实”的团队,也会毫不留情地惩罚那些只让AI在符号温床里打转的做法。

下一次当你打开聊天框,看到那个流畅而笃定的回答时,不妨多想一层:它像是坐在缸里的脑子,从一根根符号丝线上抽取着漂亮的句子。而我们能做的,是把它拉出来,让它摔一摔、碰一碰,感受一下世界的重量。

RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进