国产 AI 算力芯片这两年的热度，已经从纯粹的行业议题变成了实实在在的采购清单和研发排期。做竞品分析看得越深越会发现，这个市场早就过了“拼纸面参数”的阶段，真正决定胜负的是三个维度：份额能替代到什么程度、供给瓶颈卡在哪一层、生态竞争带来的格局分化有多剧烈。这篇文章不打算做那种罗列参数的厂商白皮书，而是想把我实际调研和项目落地中观察到的规律梳理出来，帮大家在选型、研发投入和技术路线判断上有个参考。
1. 算力芯片赛道的底层逻辑：为什么“替代”是一个系统题
1.1 需求侧正在发生的关键变化
过去几年，国内算力需求的主体是互联网大厂的大规模训练集群，追求极致性能，不太在乎功耗和兼容成本。但今天的情况已经明显分层：一类是运营商和政企智算中心，采购逻辑是“能跑主流模型、满足等保和国产化要求、服务响应及时”；另一类是中小AI创业公司，买卡就是跑推理，对性价比和上手速度极其敏感。
这种需求结构的转变，直接改变了国产算力芯片的竞争重心。以前大家比的是单卡训练速度，现在越来越多的订单在比“稳定跑满一个月的推理服务不掉点”和“从拿到卡到跑通一个开源模型需要几天”。需求侧的变化叠加供应侧的不确定性，让“替代”不再是一个简单的硬件替换动作，而是一个从芯片到驱动、从框架适配到业务迁移的系统工程。
我在评估某个智算中心项目时发现，客户一开始提的需求是“训练性能不低于某国际主流卡”，但实际使用场景70%以上是推理负载。这里就出现了一个关键错配：训练场景对互联带宽和显存容量要求极高，而推理场景更看重内存带宽、批量调度效率和功耗比。如果不把这个搞清楚，采购回来就会变成“参数好看但业务跑不动”的摆设。
1.2 “份额替代”的真实内涵
很多时候谈国产芯片替代，会把“份额”简单理解成出货量或营收占比。但从我接触的多个项目来看，份额替代有三个递进的层次：
第一层是“装机替代”，也就是采购环节的入围和实际部署。这是最表面的替代，门槛在于是否具备完整的板卡、服务器和服务体系。第二层是“运行时替代”，即核心业务真的在这套芯片上跑起来，替代率能到多少。这层考验的是软件栈的成熟度、算子覆盖率、分布式训练框架的兼容性。第三层是“生态替代”，客户的新项目、新模型默认就在国产平台上开发，而不再把国际主流平台作为首选。
有意思的是，我发现很多厂商在第一层做得很好，出货量增长很快，但在第二层和第三层差距极大。有些平台的文档和工具链明显是从软件公司思路出发打磨过的，出了问题社区里能搜到答案；有些平台则更像“硬件卖出去就完事”，算子缺失要靠用户自己算，遇到报错连日志都看不懂。这种体验上的差距最终直接反映在复购率和开发者口碑上。
2. 供给瓶颈：产能、良率与先进封装的三角困局
2.1 制造端的现实约束
所有国产算力芯片的底层问题，最终都要回到制造端。芯片设计做得再先进，流片良率上不去、产能排不进去，一切都是空谈。目前国内可用的先进制程资源有限，这导致头部厂商普遍陷入一个两难：用成熟工艺做出来的芯片频率和功耗不理想，要追性能就得去抢有限的先进产能。
良率问题是我在调研中听到最多的内部焦虑。一款旗舰产品设计定型之后，良率直接决定了毛利和交付量。良率不够高的批次只能降频筛选卖，但这类芯片一旦流入市场，往往带来口碑反噬。某芯片厂的真实经历是：第一批次设备的稳定性问题被归因到芯片本身，导致后续好几家在选型评估时都有了先入为主的负面印象。
产能分配也是一个隐性瓶颈。产能有限时，优先供货谁？市场策略上通常要先保大客户，尤其是那些能带来标杆效应的互联网厂商和政府项目。这样做的结果是中小客户等货周期长，而这部分被延后的需求又恰好是增长最快的长尾市场。
2.2 封装与存储：容易被忽视的卡脖子环节
芯片算力提升，不只靠制程。AI芯片的功率动辄三四百瓦，需要先进封装来集成更多计算单元和高速接口。目前国内在Chiplet（芯粒）设计上探索不少，但封装基板的供应链、高密度互连工艺的成熟度仍是短板。更突出的瓶颈在高带宽内存（HBM）上。
HBM的重要性很多人都能说上来，但很少人意识到它在整个系统成本中的占比。以一枚高端训练卡为例，HBM的成本可能占到整个BOM的三成甚至更多。在当前供应紧张、价格走高的行情下，有没有稳定的HBM拿货渠道，直接决定了产品的成本竞争力和交付能力。
我见过一个很典型的案例：某推理卡在设计时为了控制成本，用了普通DDR内存而非HBM，结果容量虽然够大，但内存带宽上不去，导致大模型的batch size稍调大就延迟飙升。最终不得已在下一代产品里换回HBM设计，整个研发周期延后了将近一个季度。这就是“设计时省了几百块，上市后丢了几个亿订单”的教科书案例。
2.3 供给策略的分化：激进备货与按单生产
观察几家主要国产算力芯片厂商，供给策略正在分化成两种思路。一种是对未来需求高度乐观，选择提前锁定产能、备货压库存，赌的是市场继续高速增长。这种策略在市场景气期能吃到最大红利，但一旦需求不及预期，库存减值风险极其巨大。另一种是相对稳健的按单排产，通过与服务器整机厂商联合备货的方式降低风险，但这种策略牺牲了对快速交付的响应速度。
从市场反馈来看，我更倾向于认为，供给瓶颈的本质不是“造不出”，而是“不敢造太多”。因为每一片晶圆投下去都是真金白银，如果设计迭代太快或市场需求切换太剧烈，上一代库存很快就变成负资产。这种心态在行业上升期是安全的，一旦需求出现短期下滑，供给端的恐慌性收缩又会加剧市场的供应波动，形成自我实现的紧缩循环。
3. 生态竞争：真正的胜负手是软件和工具链
3.1 兼容层的策略选择
关于国产AI芯片的软件生态，有一个绕不开的问题：到底要不要兼容主流GPU计算平台的那套CUDA生态？这个问题在实际市场中的答案基本是：嘴上说自主，手上做兼容。因为纯粹让客户把模型迁移到一套全新编程语言和算子库上，迁移成本高到没有人愿意承受。
兼容不是简单的翻译层，而是要对主流生态的算子行为、内存管理机制和分布式通信模式做深度模拟。这里最考验功力的是算子覆盖率和性能表现。很多国产平台声称兼容，但跑常见模型没问题，一上小众算子就“咔咔”编译失败，或者代码能跑但性能只相当于原生环境的五六成，这种兼容就是“能用但不好用”的半吊子水平。
我在实测中会有一个固定动作：拿一批主流模型（大语言模型、视觉模型、推荐系统模型各来几个）做三类测试——原样运行、用框架官方API改写、用自定义算子扩展。原样运行测的是兼容层做得好不好，改写测的是开发体验顺不顺，自定义算子扩展测的是底层工具链深不深。绝大多数国产平台过得了第一关，第二关就开始露馅，第三关基本是重灾区。
3.2 编译器和算子库的“内功”修炼
如果只看官方文档，每家都在讲“全栈自研”“算子覆盖率高”，但实际跑起来差异非常大。关键区别在于两个层面：一是静态图优化能力，能否把模型中的冗余计算自动消除、算子融合做干净；二是动态Shape处理能力，推理场景的输入长度往往不固定，这要求编译器在运行时动态生成高效内核，而不是走回静态编译的死胡同。
算子库的覆盖率和质量也很关键。以常见的Transformer结构为例，里面涉及矩阵乘法、LayerNorm、注意力计算、GELU激活、残差连接等数十种算子，如果每一个算子都有经过手工极致优化的实现，性能自然稳。但如果只靠编译器自动生成通用内核，性能和稳定性都会差不少。
一家芯片厂商的软件团队规模、社区贡献度、issue响应速度，往往比其芯片PPT上的算力数字更能说明问题。我习惯去翻它们开源仓库的commit频率和issue处理记录，一个长期活跃、有外部贡献者的项目，通常生态成熟度不会差。
3.3 绑定与合作生态的博弈
生态竞争的另一个观察维度，是芯片厂商和下游合作伙伴之间的绑定深度。有的选择和头部服务器厂商做深度适配，让整机出厂即“开箱可用”；有的选择和云厂商合作，以云实例的方式对外开放算力；还有的积极拥抱主流开源AI框架的中方维护团队，通过框架层的适配把芯片优化“原生写进去”。
这种合作策略上的差异，市场可以看得越来越清楚：绑定框架的做法最扎实，但见效慢；绑定整机厂商的做法出货快，但容易出现同质化竞争；绑定云厂商的做法客户触达效率最高，却容易被云厂商“管道化”，失去品牌认知。没有哪条路绝对正确，但观察一家厂商在合作上的优先级，基本能判断它未来一年到三年的市场打法。
4. 格局分化：不同路径、不同市场、不同命运
4.1 头部厂商的路径差异
国产算力芯片的头部玩家虽然都在做AI芯片，但各自的路径已经明显分化。一类是全栈自研路线，从芯片架构到编译器、runtime、框架插件全部自研，目标是构建类似国际巨头那样的完整体系；另一类是灵活兼容路线，主力产品瞄准主流生态兼容，把重点集中在性价比和场景适配；还有一类是垂直场景路线，不做通用算力，专注在摄像头AI、自动驾驶、工业质检等细分场景，用专用架构换效率和功耗优势。
三种路径没有绝对优劣，但适应环境不同。全栈自研在政策和品牌层面有天然优势，但生态建设的周期很长，过程中会经历阵痛期；灵活兼容路线市场见效最快，但技术壁垒相对低，容易陷入价格战；垂直场景路线活得最稳，但天花板明显，难以支撑数百亿市值的想象空间。格局分化到这个阶段，已经开始出现明显的“头部收敛、长尾出清”。
4.2 训练与推理市场的差异化竞争
算力芯片市场如果只按“训练”和“推理”切一刀，会发现两个市场的发展阶段完全不同。训练市场目前仍然是极度依赖高端互联和多卡协同的场景，对芯片生态的要求最高，门槛也最高，目前新玩家很难撬动稳固格局。推理市场则极度分化，从大模型在线推理到端侧推理，再到车端、边缘侧，各有各的算力需求和功耗约束。
比较有意思的反差是：有些在训练市场存在感较弱的厂商，在大模型推理市场反而活得相当好。原因很简单——大模型推理的核心瓶颈往往不是单卡算力，而是显存带宽和部署灵活性。一家芯片的容量到位、带宽够高、兼容性好，价格只有主流方案的一半，在推理市场几乎是一打一个准。只要生态别太拉垮，客户很愿意为性价比迁移。
从我这边的项目经验看，目前国产芯片在推理场景的渗透率已经相当可观，尤其是对延迟不敏感、批量处理为主的业务，稳定性和成本都经得起检验。训练场景的相对脆弱点还是在于多卡互联的稳定性和分布式任务的调度成熟度，尤其在千卡以上的规模，掉卡、超时、通信瓶颈仍然是常见问题。
4.3 政企市场与商业市场的“质量剪刀差”
国产算力芯片的出货里，政企和运营商市场占了大头，这是公开的秘密。这类市场的特征是：重视合规资质、重视服务保障、对价格不敏感，但对性能的极致要求也不高。商业互联网市场则相反，要求的是硬碰硬的性价比和在核心业务中长时间稳定运行。
如果一个芯片的主要出货都在政企市场，而商业市场始终打不进去，长期来看会产生一个很危险的信号：技术迭代失去商业场景的滋养。商业互联网场景通常会逼出最严苛的性能要求和最复杂的工程问题，这些对技术积累极为宝贵。我特别关注一家厂商在互联网公司中的渗透率，哪怕渗透率只有个位数，只要它在某几个核心场景稳定跑了超过半年，我对其技术成熟度的信心就远高于那些只出现在政企中标名单里的厂商。
5. 算力平台选型评估实操指南
5.1 先跑通业务，再看纸面参数
做竞品分析和选型评估时，最容易犯的错误是一上来比参数。我的习惯是倒过来：先找部门里最核心的两三个模型，在候选平台上完成从编译到部署的全流程测试。这个过程能暴露大量问题——能不能顺利装好依赖、编译时间有多长、跑同一个模型的内存占用是多少、性能波动大不大、报错信息是否可理解。
耗时方面也值得记录。一个熟练的工程师在两小时内能把模型在新平台上跑通，说明工具链至少是顺手的；如果折腾了两天才跑通首个示例模型，后面的开发效率大概率也不会好。我在一次评估中记录到某平台光环境初始化就折腾了六个小时，其中还出现了不少需要手动补依赖的环节，这种平台的开发体验可想而知。
5.2 画一张“需求-供给”匹配表
选型评估应该建立一张完整的表格，把需求侧指标和供给侧能力逐一对照。表格要包含以下核心维度：算力（按FP16和INT8分别评估，因为很多推理场景只看INT8）、显存容量和带宽、互联方式及带宽、支持的精度类型、主流框架适配程度、自定义算子开发成本、厂商服务响应速度、社区活跃度、功耗和散热要求、单卡成本。
我通常还会在这个表格里加一列“风险等级”，专门记录供应风险高、生态风险中、技术风险低的细项。风险等级全红的平台不建议碰；全绿的平台几乎不存在；中间态才是需要重点谈判和管控的部分。这种表格做完之后，每个维度的权重也可以随着业务场景调整，我见过有人只做文生图业务，就把显存和视觉算子覆盖率权重调得很高；有人做推荐系统，就会更看重稀疏特征算子的效率和嵌入表支持。
5.3 从测试到采购的避坑清单
最后分享几条实操避坑经验。第一条，一定要拿真实的业务模型做基准测试，不要用厂商提供的跑分样例，因为厂商压测过的样例几乎都做了针对性优化，代表性极差。第二条，尽量用自己团队熟悉的模型和框架来测试，否则出了问题分不清是水平问题还是平台问题。第三条，先小批量采购部署，跑一到三个月的真实业务再放量，国产芯片在不同版本驱动下的表现差异极大，新版本驱动发布后所有测试至少要回归一遍重点场景。
还有一个容易被忽略的坑是“板卡为主、整机适配不足”。芯片本身跑得快，但配套的服务器、散热、固件如果没磨合好，整个系统的稳定性和性能折扣会超过预期。选购的时候一定要问清楚适配的整机型号清单，尽量选择已经大规模验证过的组合。切记，算力芯片永远是系统竞争，不是单卡竞争。
6. 个人视角：几个值得持续跟踪的规律
做了这么久的算力平台选型和竞品分析，我越来越确信一件事：芯片行业没有一劳永逸，只有持续迭代。今年领先的，明年可能因为一个架构决策失误就掉队；今年落后的，也可能因为一次软件栈重构实现逆袭。所以我的习惯是每季度做一次信息刷新，更新各家产品的最新进展、重要客户合作案例和社区动态，保持对格局变化的敏感度。
另一个比较深的体会是，评估国产算力芯片一定要把视角放长远。短期跑分领先未必是好事，有时是因为为了账面数据做了大量特定优化；短期兼容性不足也未必是坏事，有时恰恰说明厂商在坚持构建真正自主的技术底座。这里的关键是判断一家厂商是否有长期技术路线上的定力，以及它的软件投入占比是否足够支撑生态建设。
最后分享一个我反复用来判断平台成熟度的小技巧：去开发者社区看“差评帖”是怎么被回复的。认真对待用户问题、每一帖都有官方反馈的平台，软件成熟度通常进步很快；而那些社区里全是用户互助、官方长期不吭声的平台，无论发布会搞得多么热闹，在实战中的体验大概率不会好。生态这件事，态度远比参数更能预示未来。
