ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

NPO近封装光学如何重构AI服务器互连?DSP会被取代吗?

NPO近封装光学如何重构AI服务器互连?DSP会被取代吗? 这不是我第一次在行业群里看到类似的说法但“DSP 被干掉了”这个提法确实够直接。在 AI 服务器互连这个赛道上DSP数字信号处理器长期扮演着光模块里“大脑”的角色负责把高速电信号从交换机芯片搬到光模块、再做信号补偿和光电转换。可随着 800G、1.6T 速率铺开DSP 的功耗、成本和延迟问题越来越扎眼于是 NPONear-Packaged Optics近封装光学被推到了台前——把光引擎搬到交换芯片封装附近砍掉传统可插拔光模块里那套复杂信号链路。这篇文章就来拆一拆NPO 到底是怎么“重构”AI 服务器互连的DSP 是不是真的会被取代以及作为工程师我们该怎么看这件事。1. 先弄清楚这波“干掉 DSP”的底层逻辑1.1 AI 集群规模涨到什么程度才让 DSP 吃不消大模型训练集群动辄上千张加速卡卡与卡之间要频繁做梯度同步、张量并行。这时候网络互连不只是“能通就行”带宽、时延、功耗每一项都被放大成系统级问题。拿一台典型的 AI 服务器来说8 卡 GPU 节点至少需要 8 个 400G 或 800G 端口上联到交换机。集群规模从几十卡扩展到上千卡TORTop of Rack交换机端口数翻几倍光模块数量也跟着翻几倍。问题出在每只光模块里都塞了一颗 DSP 芯片这颗芯片专门做 PAM4 信号的均衡、CDR时钟数据恢复、FEC 编解码功耗常年占据模块总功耗的四成以上。400G 时代 DSP 大约是 4 到 6 瓦到了 800G 直接涨到 10 到 14 瓦。一只模块功耗高看起来没什么但机架里塞几十只模块、一个大型集群动辄几万只光模块时功耗账根本算不过来。更麻烦的是散热传统可插拔光模块在交换机前面板上密集排列工作温度一上去激光器的波长漂移、调制效率下降、寿命缩短各种问题全来了。DSP 的发热让散热设计在 800G 时代已经接近极限。延迟也是 AI 训练场景的硬指标。DSP 做 FEC 编译码和重定时需要缓冲数据这个过程中引入的时延虽然单次只有几十纳秒到几百纳秒但在需要频繁同步的分布式训练里成千上万个网络事务叠加这个延迟就被放大成了训练效率的损失。多一轮同步多花几毫秒整个集群的 GPU 利用率就往下掉。1.2 功耗和成本账为什么 800G 成了分水岭要说清 DSP 是哪里“撑不住”的得从速率演进这条线来看。100G 时代用的是 NRZ 编码单通道 25G4 个通道绑一起DSP 的负担很轻。400G 时代切换到 PAM4单通道速率拉到 50G 或 100GDSP 的均衡能力变得不可或缺。800G 以后单通道 100G 或 200G信号在 PCB、连接器、光模块内部走线里衰减严重DSP 需要做的补偿工作成倍增加。我给一个直观的数字同一颗 5nm 制程的 DSP 芯片处理 100G 每通道信号的功耗大约是 1.5 瓦处理 200G 每通道时功耗直接跳到 3 到 4 瓦。单纯靠工艺升级已经压不住功耗增长因为 PAM4 的复杂度摆在那里均衡器抽头数、ADC 采样率、DSP 算法复杂度全都在涨。成本层面更现实。一颗 800G DSP 芯片的物料成本在 40 到 60 美元之间占了整个可插拔光模块成本的三分之一以上。如果集群规模是几万只模块光 DSP 这一项就是几百万美元的开销。NPO 方案的核心逻辑就是把 DSP 从光模块里拿出来让交换芯片自带的 SerDes 去分担均衡任务光模块简化成“光引擎 驱动 TIA”物料清单上的大头直接砍掉。这就是 800G 成为分水岭的根本原因速率越往上走DSP 的成本和功耗占比越高砍掉它的收益就越明显。2. NPO 近封装光学到底动了什么奶酪2.1 从可插拔光模块到近封装光学的演进路径先回顾一下传统可插拔光模块的工作方式。交换机芯片发出高速电信号经过 PCB 走线、连接器进入光模块光模块内部的 DSP 对信号做重定时和均衡再交给驱动芯片调制激光器发光。接收方向反过来光信号被 PD 转成电流经过 TIA 放大再由 DSP 做均衡和时钟恢复最后通过 PCB 走线送回交换芯片。这条链路上每一段都有损耗。交换芯片到面板连接器的 PCB 走线在 112G SerDes 速率下损耗大约 8 到 12 dB光模块内部的柔性板和连接器再吃掉 3 到 5 dB。信号在进入光模块之前就已经“累”了所以 DSP 必须拼命补偿。NPO 的思路很直接把光引擎放到离交换芯片更近的位置缩短这段电信号传输路径。所谓的“近封装”就是把光引擎包含激光器、调制器、PD、TIA、驱动芯片和交换芯片放在同一个基板上但不像 CPOCo-Packaged Optics那样直接共封装。NPO 的光引擎距离交换芯片通常只有几毫米到几厘米电信号走线长度大幅缩短损耗从 10 多个 dB 降到 3 dB 以内。路径短了对 DSP 均衡能力的需求就弱了甚至可以在部分场景下完全去掉 DSP。2.2 LPO 和 NPO 的关系别再混为一谈行业里经常把 LPOLinear Pluggable Optics线性可插拔光学和 NPO 混在一起说但这两个方案的技术路线完全不同这里梳理清楚。LPO 是“去 DSP 的可插拔光模块”。它保留传统可插拔的物理形态只是把 DSP 去掉改用线性驱动器和线性 TIA信号均衡完全依赖交换芯片侧的 SerDes。好处是兼容现有面板设计缺点是信号穿越 PCB 和连接器后的损耗还是要靠主机侧 SerDes 硬扛对链路余量的要求很高。NPO 是“缩短路径的板载光学”。它不再强调可插拔而是把光引擎封装在交换芯片附近路径短、损耗低这才是 NPO 相对于 LPO 的核心优势。可以简单理解为LPO 是在“原路线上减轻负重”NPO 是“直接换一条更短的路”。如果画一张对比表会更清楚维度传统可插拔 DSPLPONPO光模块形态可插拔可插拔板载/近封装有无 DSP有无通常无电信号路径长度长10-15 dB 损耗长10-15 dB 损耗短3 dB 以下信号均衡方式光模块内 DSP主机侧 SerDes主机侧 SerDes可维护性高高低功耗高中低低2.3 NPO 技术栈的核心组件拆解NPO 不是某一家公司的独家方案它是一整套技术栈的组合主要包含以下几块硅光芯片是核心。NPO 光引擎大多基于硅光平台把调制器、波导、PD 集成在硅片上再用标准的半导体工艺批量制造。硅光的优势在于集成度高、能跟 CMOS 工艺兼容成本分摊下来比分立光学器件更低。但硅光对工艺精度要求苛刻特别是波导损耗、调制器效率这些参数直接影响整个链路的性能。激光器是另一个关键点。硅光芯片本身不发光需要外置或混合集成激光器。NPO 方案里通常用外置的 DFB 激光器阵列通过光纤阵列耦合进硅光芯片。激光器的热稳定性是工程难点波长随温度漂移会直接影响 WDM波分复用场景下的通道隔离度。所以 NPO 封装里一定有热电制冷器TEC或精心设计的被动散热结构。Driver 和 TIA 也在变化。NPO 方案里的 Driver 要求线性度高因为没有了 DSP 在光模块里做均衡Driver 的输出波形质量直接影响传输距离。TIA 侧则要求跨阻增益可调范围大配合主机侧 SerDes 的接收均衡能力。这些芯片通常也采用倒装焊方式集成在光引擎上尽量减少寄生参数。3. 实操视角NPO 系统在 AI 服务器里怎么落地3.1 关键链路怎么搭交换芯片到光引擎的信号路径聊 NPO 不能只停留在概念层面落到实际系统里信号路径重构是第一步。传统方案里交换芯片到光模块之间是“长走线 连接器 模块 PCB”NPO 方案则是“短走线 基板内布线 光引擎”。这看起来只是路径缩短实际上牵动整个硬件设计思路。NPO 有两种常见的物理实现方式。第一种是 2.5D 封装光引擎和交换芯片并排放在硅中介层或有机基板上中间走线短且可控。第二种是 3D 堆叠光引擎直接叠在交换芯片上方路径更短但散热设计难度直线上升。2.5D 是目前更现实的方案因为散热路径更容易处理工艺成熟度也更高。从交换芯片的 SerDes 角度看NPO 方案要求 SerDes 具备更强的均衡能力。传统方案里 SerDes 只需要把信号送到光模块接口距离长但有 DSP 兜底。NPO 方案里 SerDes 要直接驱动光引擎或者直接接收来自光引擎的信号CTLE连续时间线性均衡和 DFE判决反馈均衡的抽头数、增益范围都要重新设计。我见过的 NPO 参考设计里交换芯片到光引擎的走线长度被控制在 10 毫米以内差分阻抗 100 欧姆插入损耗预算不超过 3 dB。对比传统方案 12 dB 的走线预算这个要求对 PCB 设计来说轻松很多但对基板布线精度和芯片封装的信号完整性要求更高。从实测数据来看NPO 链路在 112G SerDes 速率下误码率可以做到 1E-15 以下且不需要额外的 FEC 开销或只需非常轻量的 FEC这对 AI 训练场景来说是个不错的改善。3.2 哪几类芯片会被重构SerDes、TIA、Driver、DSPNPO 对整个芯片生态的影响用“重构”来形容不算夸张。传统光模块产业链里DSP 是最核心的芯片NPO 时代它被边缘化了而主机侧芯片的地位大幅上升。交换芯片的 SerDes 是最大的受益者。以前 SerDes 只需要保证信号能到面板连接器现在要直接驱动光引擎。这要求 SerDes 的输出摆幅可调范围更大、均衡能力更强、甚至要集成部分原先 DSP 才有的功能比如预加重、去加重、判决反馈均衡。实际上224G SerDes 的设计目标里明确包含了“可直接驱动光引擎”的场景。Driver 和 TIA 的定位也变了。传统可插拔光模块里Driver 是预加重输出配合 DSP 的均衡算法。NPO 场景下Driver 的线性度要求更高因为整个链路的均衡任务都压给了主机侧Driver 自身不能再引入非线性失真。TIA 的噪声和带宽指标也直接影响主机侧 SerDes 接收均衡的效果过去 DSP 可以“救回来”的劣质信号现在完全靠 TIA 和 SerDes 的配合了。DSP 本身并不会完全消失。在长距离场景比如 2 公里以上的数据中心互连、多模光纤场景、或者对误码率有极端要求的场景里DSP 仍然有存在价值。但在短距离、大带宽、低功耗的 AI 集群内部互连场景DSP 的“饭碗”确实被 NPO 端走了一大半。3.3 良率、测试和运维的变化这是 NPO 落地最容易被低估的三个环节因为出货量大了之后良率和可维护性往往比首发性能更决定方案成败。良率方面NPO 把光学器件和交换芯片绑在了同一块基板上。传统可插拔光模块是独立封装光模块良率和交换机良率完全独立生产灵活。NPO 则意味着光引擎耦合良率直接拖累整颗交换芯片的良率。一颗交换芯片价值几百美元上面耦合了多个光引擎任何一个光通道耦合失败整颗芯片就只能报废或降级使用。这就要求光引擎的制造良率达到 99.9% 以上耦合工艺的可重复性成了硬指标。测试方面传统可插拔光模块可以单独上测试台架验证完再装进交换机。NPO 没有这个独立测试环节必须在交换芯片封装完成后通过系统级测试来验证光学性能。这要求测试方案里同时覆盖电信号和光信号误码率测试、光功率校准、波长验证都要在芯片级完成。我见过一些团队在测试程序里加入光学 BIST内建自测试让交换芯片自己产生测试信号配合光引擎内部的环回通道做快速验证效率高了不少。运维层面的变化最让数据中心运维团队头疼。传统可插拔模块坏了拔下来换新的就行。NPO 是板载光学光引擎坏了要么整块板卡报废要么返厂维修。这意味着 NPO 方案必须把可靠性做到远高于可插拔方案的级别。MTBF平均无故障工作时间至少要达到百万小时量级激光器的老化、焊点的热循环疲劳、光纤耦合的稳定性每一项都要做充分的可靠性验证。4. 常见问题与行业误区排查4.1 “DSP 被干掉”是全面取代还是局部替换这个问题我在不同场合被问过不下十遍答案很明确不是全面取代是局部替换。NPO 针对的是 AI 集群内部短距离、大带宽、低延迟的互连场景这个场景占数据中心光互连总需求的比例确实在快速上升但绝不是全部。数据中心里还有大量中长距离互连比如同一个数据中心园区内不同楼栋之间的连接距离往往在 500 米到 2 公里甚至更远。信号经过这么长的光纤传输色散、非线性、衰减都更加严重靠 SerDes 的均衡能力已经不够用了DSP 的 FEC 纠错和高级均衡算法仍然是必需品。DCI数据中心互连场景更是如此几十公里到上百公里的传输DSP 的地位短期内根本撼动不了。所以准确的说法是NPO 正在吃掉那些距离短、对功耗和成本极度敏感的 AI 集群互连场景而 DSP 在长距离、高性能传输场景里依然有自己的市场。两种技术路线会长期共存而不是谁干掉谁。4.2 为什么现在的 AI 服务器还是大量用 DSP 方案这个问题的答案很现实NPO 成熟还需要时间DSP 方案的生态太完善了。传统可插拔光模块经过十几年的迭代供应链成熟、测试标准齐全、运维经验丰富整个行业都知道怎么用。NPO 的硅光工艺、封装良率、测试流程这些环节还在爬坡短期内的成本未必比 DSP 方案低。另外还有标准化的问题。可插拔光模块有 MSA 多源协议不同厂商的模块可以互通用户不会绑定单一供应商。NPO 目前各家都在做封闭方案交换芯片要和特定厂商的光引擎配套客户的议价能力和供应链灵活性都受限。这也是很多大型数据中心客户观望的原因。从我的经验来谈NPO 真正的转折点在于光引擎的标准化和开放化。一旦出现类似“标准 NPO 光引擎接口”这种行业共识不同厂商的光引擎可以互换使用量才会真正放量成本才会下来。这个过程可以参考当年 SFP 和 QSFP 模块标准化带来的产业红利。4.3 NPO 时代工程师需要补哪些技能对系统工程师来说过去只需要关注交换芯片和光模块的接口定义现在要把信号完整性、光学设计、热设计同时纳入考量。SI信号完整性工程师要理解光学封装对电信号的影响光学工程师要理解 SerDes 均衡算法的能力边界两者之间的沟通成本明显增加。对测试工程师来说光学测试和电测试的界限被打破了。以前光模块单独测光学指标交换机单独测电指标两边互不干涉。NPO 时代必须做系统级光电联合测试测试工程师需要同时懂误码率分析和光功率/光谱分析知识结构要往复合型方向扩展。对运维和可靠性工程师来说板载光学意味着“坏一个修一片”的风险。可靠性设计要前置从器件选型、热应力分析、焊接工艺等环节就要做好失效模式和影响分析。运维流程也要重构以前是模块坏了换模块现在是板卡故障直接换整卡备件策略、故障诊断手段都要跟着调整。5. 接下来值得关注的关键信号技术方向定了但要判断 NPO 什么时候真正放量我一直盯着几个信号。第一个信号是头部云厂商的采购节奏。目前已经有头部厂商在自研交换机和光引擎的联合封装方案但真正大规模部署还没开始。如果看到大规模招标里有明确 NPO 或 CPO 类型的光互连产品说明技术成熟度已经过了验证期。第二个信号是光引擎的标准化进展。NPO 的推广有两个主要阻力标准不统一和供应链封闭。我关注的是有没有重量级行业组织牵头制定光引擎的通用接口标准只要有这个动作NPO 的放量速度会远超预期。第三个信号是交换芯片和光引擎供应商的合作深度。NPO 不是单纯的光模块替代需要交换芯片、硅光、封装、激光器、测试设备等多家供应商协同。当看到头部交换芯片厂商开始通过并购或战略投资布局光引擎能力时说明 NPO 已经被当作核心方向来押注了。第四个信号是 224G SerDes 的商用进度。NPO 大量依赖主机侧 SerDes 的均衡能力224G 速率下 SerDes 能不能扛住链路补偿的重担直接决定 NPO 方案的性能上限。224G SerDes 如果量产顺利NPO 在 1.6T 时代的竞争力会明显增强。我个人在实践中体会到的是NPO 这类封装级光互连方案真正的难点往往不在技术本身而在产业链话语权的重新分配。DSP 方案里光模块厂掌握主动权NPO 方案里交换芯片厂和封装厂掌握了更多话语权。这个话语权转移的过程一定会伴随着技术路线反复、标准争抢和市场洗牌。工程师能做的就是把底层原理吃透别被某一代产品的宣传带偏扎实积累信号完整性、光学设计和系统级验证的经验。这些基本功不管技术路线怎么换都是最稀缺的竞争力。
RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进