当OpenAI开始自研芯片：中美算力差距真的被拉大了吗？

当OpenAI开始自研芯片：中美算力差距真的被拉大了吗？

问： 这两天大家都在讨论 OpenAI 联合博通自研的「Jalapeño」芯片。很多人看完第一反应就是焦虑：你看，美国不仅有英伟达的 GPU 霸权，连 OpenAI 这种软件算法公司，都能拉上博通和台积电，用 3nm 制程和 HBM4 搞出秒杀现役硬件的自研推理芯片。而我们面临先进制程受限、高端显存禁售，这么一看，中美的算力差距是不是被越拉越大了？

答： 这种焦虑非常真实，也是很多技术群里最常见的声音。但在下结论之前，我们必须先分清楚两件事：硬件制造的绝对物理代差，与系统实际产出的有效算力。

如果单看半导体物理制造链条，现实确实非常严峻。OpenAI 之所以能“9 个月搞出一颗顶尖芯片”，前提是它可以毫无阻碍地调动全球最先进的分工体系：台积电最前沿的 3nm（N3P）晶圆代工、CoWoS 先进封装、博通几十年来积累的高速 SerDes 互联 IP，以及 SK 海力士最新的 HBM4 显存。

在这一整套依赖全球顶级工艺的物理硬件层面，国内因为众所周知的地缘限制，确实存在客观的代际阻隔。这是明牌的硬约束，没有任何必要去粉饰或者盲目乐观。

问： 既然硬件底层被卡得这么紧，那为什么今年我们在实际体感上，国内的大模型推理成本、Token 输出速度，反而把很多海外同行逼得极其紧张？比如 DeepSeek、Kimi、阿里千问这些，在极低成本下跑出了极高的性能。这岂不是自相矛盾？

答： 这就是最耐人寻味的地方。因为算力的最终产出公式，并不是单纯由“晶体管有多小”决定的。

你可以把 AI 系统的真实产出理解为一个乘法公式：

有效算力输出 = 物理硬件性能 × 算法架构效率 × 编译与系统工程优化

在过去很长一段时间里，硅谷的大厂因为算力充沛、资本雄厚，走的一直是“大力出奇迹（Brute Force）”的路线——模型不够强就堆千卡万卡，推理太慢就上最新款的 H100/B200。这种路径依赖导致他们在算法层面的资源榨取上，其实留下了巨大的工程冗余。

而国内的团队，从第一天起就生活在“算力饥渴”和“硬件受限”的极限约束中。这种极限约束，硬生生逼出了一条完全不同的工程演进路线：通过极致的算法重构和系统级协同，在软件端把计算量和搬运量砍掉一个数量级。

问： 能不能用通俗的技术语言讲讲，这种“在软件端硬造算力”到底是怎么做到的？

答： 我们拿普通后端开发最熟悉的数据库和缓存来打比方。

如果你的数据库查询慢，通常有两种解决思路：

第一种是美国式的传统解法——加钱买顶配高主频服务器，把内存直接堆到几个 TB，靠硬件蛮力把慢查询硬扛过去；

第二种是极限优化解法——重构 SQL、设计精妙的索引、优化数据存储格式，把一次全表扫描优化成毫秒级的精准索引查找。

大模型领域过去一年发生的事情正是如此：

1. 显存墙的算法级拆解（MLA 架构）： 大模型推理最耗费显存和带宽的是 KV Cache。传统的做法是每个注意力头都要保存一份历史状态，随着上下文拉长，显存很快被塞满。而国内团队普及的 MLA（多头潜在注意力）等机制，通过低秩压缩投影，直接把 KV Cache 的显存占用砍掉了 80% 到 90%。这意味着原本需要 8 张高端卡才能跑起来的模型，现在 1 到 2 张普通卡就能跑，而且数据搬运量大幅减少。
2. 通信与计算的极致掩盖（DualPipe 与重叠调度）： 单卡算力不够，就必须多卡甚至多机拼起来。但跨卡跨机的网络通信是极慢的。国内团队通过重构流水线并行（比如 DualPipe），让前向计算、后向计算和跨卡通信完全重叠交错。当卡在搬运数据时，计算核心一刻不停；当计算完成时，下一批数据刚好送达。通过调度算法把硬件的等待气泡（Bubble）压缩到几乎为零。
3. 全链路低精度量化（FP8 混合精度）： 不再死守传统的 FP16/BF16，而是将训练和推理推进到 FP8 乃至更低精度。数据体积直接减半，原本带宽受限的芯片，吞吐量瞬间翻倍。

你看，当你的算法把数据搬运量砍掉 4 倍、显存占用压缩 5 倍、通信等待压到极低时，你在实际业务端获得的能效提升，就已经抵消掉了两代先进制程带来的物理差距。

问： 但有人会反驳：算法优化是公开的，海外大厂看到 DeepSeek 和开源社区的成果，也可以抄作业啊。当 OpenAI 把这些极致算法也用在他们的自研 3nm Jalapeño 芯片上时，差距不就又拉开了吗？

答： 这个问题问到了核心痛点。确实，算法开源之后，全世界都可以学习。但这里面有两个关键的产业深层逻辑：

第一，工程惯性与组织基因的差异。

从富人思维转向穷人思维是极其痛苦的。一家习惯了直接申请千万美元预算去租十万张英伟达 GPU 的硅谷团队，很难有动力去一行一行手写汇编算子、去扣哪怕 1% 的内存碎片。而国内的系统工程师在极其严苛的环境中磨砺出来的全栈调优能力，已经形成了独有的工程飞轮。

第二，也是最重要的一点：训推分离（Training vs Inference）的战略分流。

在大模型预训练（Training）端，我们确实依然面临算力集群规模的客观挑战。预训练需要吞吐极限规模的原始浮点算力，万卡、十万卡超大集群在先进制程和高带宽网络上的短板依然存在，这需要国内芯片和代工产业链持续沉下心去补课。

但在大模型推理（Inference）端，逻辑彻底变了。

大模型产业 90% 以上的商业价值和算力消耗，最终不是发生在训练机房，而是发生在千家万户每天调用 API、跑智能体 Agent 的推理阶段。在推理端，模型结构已经基本标准化（MoE + Transformer），这时候不再需要通用性极强但昂贵无比的通用 GPU，而是需要高能效比、低成本的推理专有架构（ASIC/DSA）。

问： 说到这里，国内的自研芯片现在到底走到哪一步了？我们难道只能等先进制程突破吗？

答： 当然不是。国内硬件团队目前正在走一条极其务实且多元的突围路径：

1. 用系统架构弥补单点制程： 在无法直接使用单颗超大面积先进制程 Die 的情况下，国内在积极探索 Chiplet（芯粒互联）、晶圆级封装和大容量片上存储（SRAM）。通过把成熟制程的多颗芯片通过先进互联拼接在一起，构建专门跑 MoE 专家的算力单元。
2. 国产通用 GPU 集群生态的务实落地： 像华为昇腾、海光、天数智芯、寒武纪等，正在从早期的“能不能跑起来”，快速演进到“大规模生产环境怎么调优”。华为昇腾的 MindSpore / CANN 工具链，在经过头部大厂千万级日活业务的实际蹂躏后，算子成熟度和调度效率正在快速逼近甚至在特定场景超越国外同代产品。
3. 云厂商与垂直场景的定制推理硬件： 国内头部云厂商（阿里、腾讯、字节、百度等）在自研 ASIC 和专用加速卡上的布局其实并不比国外晚。在特定图像搜索、推荐排序以及特定尺寸的大模型推理上，很多内部核心业务早已经跑在自研或者定制芯片上，只是宣传上相对低调。

问： 从宏观战略来看，未来中美的算力竞争会演变成什么样的格局？

答： 很可能会呈现出“双轨并行、各展所长”的非对称竞争格局：

• 美国模式：全栈技术溢价与极致硬件先锋 依靠全球半导体顶尖分工（台积电、博通、ASML、美光）和充沛的资本，持续探索摩尔定律的最前沿，在超大规模预训练、万亿参数通用大底座、最先进制程芯片上继续领跑，但背负着高昂的硬件采购成本和恐怖的电网基建压力。
• 中国模式：极致工程能效与丰富场景落地 在硬件物理受限的强约束下，走出“算法创新 × 软件架构 × 成熟制程异构系统”的高效路线。用更便宜的硬件、更低廉的能源成本、更极致的系统优化，把 Token 价格打到极致，然后迅速在智能制造、工业互联网、电商、企微、政务和消费端把 AI 真正落地成生产力。

这就好比冷战时期的航空航天竞争：一边用最昂贵的特种合金和精密仪器追求极致指标，另一边用精巧的结构力学设计和工程冗余在更低成本下完成同样的轨道任务。

问： 最后，对我们这些每天在业务一线写代码、做架构、搞运维的普通 IT 从业者来说，我们应该怎么看待这场竞争？

答： 我觉得有三点心态和技术认知需要调整：

第一，戒除盲目的“芯片唯武器论”。

很多技术人容易陷入一种误区，觉得手里没有最新款的英伟达芯片就什么都做不了。事实已经证明，架构设计、数据质量、推理框架（vLLM/SGLang）、Prompt 工程和量化技术的优化空间，往往比纯换一块更贵的显卡要大得多。

第二，主动拥抱“异构算力与软件解耦”的技能栈。

未来企业的算力底座绝不可能永远只绑定某一家芯片。能够搞定跨平台算子适配、熟悉 Triton/ONNX 编译中间件、懂得如何在国产卡和通用 GPU 之间做混合负载调度和容灾切换的工程师，会成为市场上最抢手的架构人才。

第三，坚定业务价值导向。

技术的终极目标从来不是在实验室里刷跑分，而是解决实际问题。中国拥有全球最庞大、最复杂的数字化业务场景和最内卷的交付要求。谁能率先在具体的业务流程中把大模型落地为稳定可靠、成本可控的商业闭环，谁才是这场时代大潮中最坚实的赢家。

本文探讨基于公开半导体产业动态与近期大模型系统工程架构演进整理。