ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

把八千亿大模型塞进办公桌,昔日互撕的两家巨头这次玩得有多绝

把八千亿大模型塞进办公桌,昔日互撕的两家巨头这次玩得有多绝

把八千亿大模型塞进办公桌,昔日互撕的两家巨头这次玩得有多绝

在硅谷,如果有人说苹果和Meta会并肩站在一起推销同一款产品,多数人第一反应大概是翻出五年前的旧账:2021年苹果修改了隐私政策,限制广告精准投放,Meta曾估计那一年自家收入直接蒸发了100亿美元,两家关系一度降到冰点。

然而在2026年10月15日,马克·扎克伯格在社交平台上晒出一张工作截图,公开感谢苹果的合作。更让人意外的是这场合作的内容,他们要把一个拥有8160亿参数的庞大人工智能模型,硬生生塞进摆在办公桌上的两台苹果电脑里。

一、为什么非要让两个老对头走到一张桌子前

这个引发破冰的模型叫作Muse Spark Open,是Meta发布的开源权重模型。所谓开源权重,说得通俗一点,就是Meta把模型在海量训练中摸索出来的内部结构和数据配置,原原本本打包放上网,任何人都能去免费下载。

但这个模型实在太庞大了。它的总参数量高达8160亿,即便经过4比特压缩,光是把这堆参数文件存在硬盘里就有整整493个千兆字节。如果算上模型运转时临时存放的中间数据,想要把它完全跑起来,至少需要大约700个千兆字节的显存空间,传统的单台个人电脑根本吃不消。

以往想跑这种大家伙,唯一的办法是去租用云端昂贵的专业机房。然而数据一上云,不仅按调用次数收费,很多涉及到商业核心机密的代码和视频内容也得传出办公室。Meta的人工智能负责人直言,强大的开源模型因为体型太大,以前几乎没办法在个人电脑上存活。

苹果正是在这个死结前递出了一条绳子。苹果电脑采用的是一种统一内存的构造,处理器和图形芯片抢着用同一池子内存,而不用像传统电脑那样在显卡与内存条之间来回搬运数据。在两家公司看来,把超大模型拽下云端、塞进桌边主机的时机,刚好凑齐了。

二、两台巴掌大的小主机怎么吞下千亿大模型

要想在桌面上容纳这尊庞然大物,两家公司拿出的方案听起来甚至有点像拼积木:一台机器装不下,就拿两台或者四台连在一起,把它当成一台拥有1024千兆字节统一内存的超级电脑来用。

这里面藏着两个关键的技术底牌。首先是苹果自家的M5 Ultra芯片,它的内存带宽达到了每秒1.2千兆字节,每台主机最高能选配512个千兆字节的内存。这个速度有多快?模型在推导下一个字词时,需要快速翻阅对应的那一小块数据,而这种带宽刚好能保证数据调取不卡壳。

另一个秘密是名叫混合专家的结构设计。这个模型虽然总参数高达8160亿,但它并不是每次干活都全员出动,而是像一个拥有256名专家的智囊团。面对具体任务时,它只会挑出其中8个最懂行的专家,每次实际被激活参与运算的参数只有420亿。

为了让多台电脑协同作战,苹果在自家的机器学习框架里做了深度优化。他们利用雷电5数据线把机器两两串联,让带宽直接翻倍,再配合远程直接内存访问技术,让电脑之间交换数据时几乎不需要中央处理器插手。测试数据显示,在四台机器联动的状态下,它能以每秒超过36个基本单元的速度向外吐出文字,日常使用已经相当流畅。

纯本地跑起来之后,它展现出了一些云端工具很难做到的连续作业能力。Meta在内部测试中展示了两个场景:一个是让它配合专门的代码工具,一口气为一个开源客户端修复程序漏洞、增加新功能并完成完整编译;另一个则是直接操控高端视频剪辑软件,一帧一帧地审阅视频素材,并把原本横屏的画面自动裁剪成竖屏。

三、一台顶配能买一辆车谁会真的搬回家

两家联手的消息虽然热闹,但摆在普通开发者面前的现实门槛,依然高得有些吓人。

问题首先出在钱包上。虽然搭载基础芯片的Mac Studio起售价是5499美元,但要跑这个模型,配置必须顶到头。配齐256个千兆字节内存的机器,单台起步价就超过了10799美元;要想凑齐运行所需的总容量,用户必须买两到四台。据华尔街日报报道,搭齐一套能流畅跑完这套模型的硬件,总花费会超过4万美元。

即便真有人咬牙准备了预算,在发布当天依然买不到最理想的硬件。两台就能跑通模型的512个千兆字节版本,在10月15日模型放出的当天根本还没发货,要等到10月下旬才正式出厂。换句话说,在刚发布的那几天,大家只能先用四台256千兆字节的机器凑合拼着用。

除此之外,Meta在这款开源工具上也加了一道商业绳索。虽然个人和很多开发者可以免费从各大开源平台下载权重,但根据它的专属授权条款,产品界面必须老老实实写上模型的出处;如果有人拿它做模型托管服务,且一年内的相关累计收入超过了2000万美元,就必须掉头去找Meta另签商业合同。

更耐人寻味的是性能层面的坦诚。Meta在公开测试对比中承认,面对一些现有的开源模型,这款产品在部分编程跑分上依然落后,并没有在所有指标上全盘占优。

对于广大没有几万美元预算的普通研究者而言,大家最终可能还是会老老实实回到每百万输出计费几美元的云端调用接口上去。但这次握手的意义从来不在于让每个人都去买四台主机,而在于让行业看到了另一种活法:原来前沿级的人工智能不再非得被死死锁在大公司的云端机房里,一张足够结实的办公桌,终于也能稳稳接住它了。

RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进