ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

推理与Agent应用增长之后 AI数据中心如何做好动态热管理

推理与Agent应用增长之后 AI数据中心如何做好动态热管理

用户向AI发出一次请求,背后可能是多轮模型推理、工具调用与结果处理。请求之间的计算量不同,同一次任务的各个阶段,也可能呈现不同的算力需求。

这些变化最终会反映到基础设施上:服务器功率随任务变化,热量在不同节点和机柜之间分布,冷却系统需要跟随调整。对长期在线的推理服务来说,热管理既要承接高负载,也要适应低负载和频繁切换的运行状态。

IDC对液冷服务器市场的观察显示,推理正在成为需要长期、规模化承载的负载,Agent应用也进一步强化了对扩容节奏和配置一致性的要求。随着服务器向整柜交付发展,数据中心需要同时解决两个问题:部署时能否接得住,运行中能否跟得上。

这让热管理的重点进一步延伸。冷却容量需要提前规划,冷却资源如何随着业务变化而使用,同样需要被认真设计。

有足够冷量 还需要把冷量及时送到需要的位置

额定冷却容量是方案设计的基础,但动态负载下的运行表现,还取决于热量分布、传递路径和系统响应。

机房总体冷却能力有余量,不代表每台服务器都能获得合适的冷却条件。支路流量不足、局部空气组织不合理,或者控制调整不及时,都可能使部分设备先出现温度压力。

另一方面,如果长期维持峰值冷却配置,业务低谷时又可能产生不必要的能耗。

动态热管理需要在安全运行约束内,让冷却投入与实际负载相匹配。负载上升时,系统要有能力及时增加冷却;负载下降后,也要结合温度变化和系统状态,有序调整运行参数。

工业富联科技服务的全栈液冷解决方案将机柜式CDU、机架式CDU、Sidecar风冷机柜与CRAH空气处理单元纳入整体架构,并引入AI节能智控,通过实时监控、动态调优和故障预判支持运行管理。

产品提供了冷却和调节能力,而系统设计需要进一步明确:哪些参数能够调整,调整范围是什么,不同设备之间如何协同,以及异常情况下如何保障运行。

智能控制的空间 在设计阶段就已开始形成

热管理能否有效调节,与机房建成之前的设计密切相关。

如果管路分区不合理,部分支路长期面临流量不足;如果高密度机柜布局过于集中,空气侧又缺乏对应安排,运行阶段就可能持续受到局部热点影响。此时,仅靠控制策略优化,难以消除物理条件的限制。

因此,热管理需要前置到设备采购和机房建设阶段。

围绕目标算力规模和未来扩容计划,可以通过数字孪生、Omniverse与CFD仿真等方法建立虚拟机房环境,比较不同布局与冷却配置,提前识别潜在风险。空气侧的气流和温度分布、液冷侧的水力与换热条件,应采用与问题相匹配的方法分析。

仿真结果也需要在投运后通过现场测量持续校准。模型越接近真实系统,越有助于后续分析设备增加、负载变化和运行参数调整的影响。

相应的产品配置应服务于这些场景。小空间部署可以结合机架式CDU与Sidecar方案;大型AI集群可以结合机柜式CDU、液冷机柜与蓄冷罐方案;风液混合环境则需要同步规划空气处理系统。

工业富联科技服务以液冷为主、风冷为辅的技术路线,将不同层级的散热需求纳入统一规划,为后续运行调节提供基础。

看清系统状态 才能判断应该调整哪个环节

智能热管理首先需要可靠的数据。

只看机房平均温度,很难发现局部机柜的变化;只看GPU温度,又难以判断原因来自服务器内部、液冷支路,还是上游冷源。

更有效的方式,是将芯片、机柜和机房的数据关联起来。

芯片与服务器层需要关注负载、功率和关键温度;机柜与液冷回路层需要关注供回液温度、流量、压力和设备状态;机房层则需要关注冷源、空气侧环境、供配电及整体能耗。

当某台服务器温度升高时,这些信息能够帮助判断:是否发生了负载增长,支路流量是否变化,一次侧供水条件是否异常,或者空气侧散热是否受到影响。找到变化所在的环节,才能选择合适的调节方式。

跨系统分析还需要统一时间基准和数据口径,避免将不同时间采集的状态误判为同一事件。

工业富联科技服务全链路AI节能智控所强调的实时监控与动态调优,建立在持续掌握系统状态的基础上。液冷与空气侧设备也需要共同纳入分析:液冷承担主要热量转移后,网络、存储以及未被液冷覆盖的部件,依然需要空气侧系统提供稳定的环境条件。

从实时响应走向预测优化

当系统能够可靠地感知当前状态,下一步便是提前判断变化趋势。

实时调节通常根据已经发生的状态变化采取行动。进一步结合数字孪生与模型预测控制(MPC),则可以利用实时状态和历史数据,预测短时间内的热负载变化,在允许范围内提前调整冷却资源。

例如,在具备可靠任务信息和有效模型的条件下,系统可以为即将到来的高负载预留冷却能力;负载回落后,也可以结合系统热状态逐步调整,减少不必要的冷却投入。

预测优化的价值,在于增加准备时间,但其效果取决于数据质量、模型准确性和设备实际调节能力。

因此,控制架构需要分层设计。基础控制与保护机制承担安全运行职责,预测优化在明确的温度、流量、压力等约束内运行。当数据缺失、模型偏差扩大或通信异常时,应能够退回经过验证的控制策略。

持续学习同样需要验证机制。季节变化、服务器更新和业务结构调整,都可能改变模型的适用条件。运行数据可以帮助发现更合适的策略,但策略进入实际控制前,仍需验证其效果与运行边界。

工业富联科技服务通过AI节能智控推进实时监控、动态调优与故障预判;数字孪生和MPC等方法,则为进一步开展预测式热管理提供了技术路径。具体应用范围应依据项目的数据条件、系统接口和验证结果确定。

用稳定性与效率共同检验优化效果

热管理优化需要回答两个问题:设备运行是否更稳定,冷却资源是否使用得更合理。

温度下降并不必然意味着方案更优,也可能是增加了过多冷却投入;冷却能耗降低,也需要确认设备仍然处于允许的运行范围。

对推理业务而言,可以将关键温度、热降频事件、负载变化后的恢复过程与冷却能耗结合起来观察。若需要进一步分析服务表现,还应区分热管理因素与网络、调度、模型等其他因素的影响。

不同策略之间的比较,也应尽量保持工况可比。IT负载、环境条件和设备配置发生变化时,单独比较某个时点的PUE或能耗,容易得出偏差结论。

测试与运维是这套评估过程的重要支撑。工业富联科技服务提供多功能液气机、产品测试平台、补液车及远程故障诊断等配套能力,支持部署与后续维护。测试结果、异常记录和维护后的验证数据,可以持续反馈到运行策略中。

推理与Agent应用将长期运行,也将持续变化。热管理需要随之形成一套能够不断校准的工作机制:建设前验证条件,运行中感知状态,在约束内调节,并通过实际效果修正策略。

从液冷设备到空气侧配套,再到测试运维与AI节能智控,工业富联科技服务的全栈方案围绕这一过程展开,让冷却系统更好地适应算力需求的变化,为高密度AI业务提供持续的运行支撑。

RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进