OpenAI 自研芯片 - 怎么做到的？真把把英伟达干翻了？

辣椒芯片、算力租金与黄氏定律：一场关于AI芯片的对话

问： 最近朋友圈和群里全在转 OpenAI 自研芯片的消息，叫什么「Jalapeño」（墨西哥辣椒）。标题一个比一个吓人，说 9 个月造出来、把英伟达 GB300 乃至下一代 Rubin 掀翻了，甚至连 CUDA 护城河都被干碎了。咱们做开发和运维的平时天天被大模型响应慢、token 费用贵折磨，这玩意儿到底是个什么来头？真有这么玄乎？

答： 别急，我们不妨像剥洋葱一样，一层一层把那些营销号的修辞剥掉。先看事实：OpenAI 确实联合博通（Broadcom）搞了一颗专用于大模型推理的 ASIC 芯片，代号 Jalapeño。而且他们在实验室里测出来的数字确实很漂亮，尤其是在单人交互出词速度（Token/s）和每瓦能效上，把英伟达的旗舰卡比下去了。

问： 等等，OpenAI 不是一家搞算法、调提示词、训练大模型的软件公司吗？硬件芯片这行水有多深大家都清楚，从流片到点亮动辄两三年，他们凭什么 9 个月就能搞出一颗顶级芯片？

答： 这就是第一个认知偏差了。如果你以为是山姆·奥特曼带着一帮写 Python 的工程师去画电路图、买光刻机，那就完全想岔了。

现代半导体行业的分工非常成熟。你可以把造芯片理解为建一座顶级数据中心：OpenAI 是提需求的甲方，他们最懂 Transformer 模型的计算瓶颈在哪，给出了核心架构规格；而博通（Broadcom）则是顶级总包商，博通手里有现成的高速互联 IP、SerDes 通信技术，以及跟台积电长期合作的设计服务；最后，芯片是由台积电用 3nm（N3P）工艺和 CoWoS 先进封装切切实实代工造出来的。

这就好比苹果设计 M 系列芯片，台积电负责代工，ARM 提供指令集基础。OpenAI 不是从沙子开始炼芯片，而是站在博通和台积电这两尊巨人的肩膀上做深度定制。

问： 原来如此。那文章里说的「用 GPT-6（GPT-Astra）辅助设计芯片，AI 正在给自己造躯壳」，这又是噱头还是真事？

答： 这件事半真半假，但确实代表了一种新的工程范式。

假的地方在于：大模型不可能凭空写出整颗复杂芯片的全部 Verilog 代码，底层的物理设计、时序收敛、电气特性依然依赖传统的 EDA 工业软件和资深工程师。

真的地方在于：大模型在特定局部优化上展现出了惊人的效率。比如写 GPU/ASIC 底层的算子（Kernel）——比如优化 Attention 机制和 MoE 路由的分发逻辑。以前这些汇编级代码需要顶尖专家手工抠几个月，现在用大模型配合强化学习闭环去搜最优解，写出来的汇编算子比人类专家写的还要快 1.5 到 1.8 倍；再加上 AI 辅助优化了一部分矩阵乘法单元的布局布线。研发周期之所以能从 24 个月压缩到 9 个月，AI 辅助确实立了功，但这叫“超级副驾驶”，不是“AI 独立成神”。

问： 明白了。那我们再聊聊性能。为什么一颗刚做出来的自研芯片，跑推理能比英伟达千锤百炼的 GPU 还要快几倍？英伟达工程师难道打不过跨界的？

答： 我问你一个问题：一辆专门跑直道竞速的改装赛车，和一辆既能拉货、能越野、能漂移还能载客的重型卡车，比 400 米直线加速，谁会赢？

问： 那肯定是专车专用的改装赛车。

答： 没错，这就是 ASIC（专用集成电路）和通用 GPU 的本质区别。

英伟达的 GPU 是通用计算怪兽。它既要照顾图形渲染、科学计算、气候模拟，又要照顾大模型的预训练（Pre-training）、强化学习、微调，还要兼顾各种不同结构的前沿算法。为了这种通用性，GPU 内部保留了大量的浮点计算单元、缓存调度机制和复杂的指令控制逻辑。

但如果你的目标只有一个——跑大模型推理（Inference），情况就彻底变了。

大模型推理有两个极其鲜明的痛点：

第一是「显存带宽墙」。大模型吐字是一个词一个词往外蹦（Auto-regressive Decode），每生成一个 token，就得把几百亿甚至上千亿参数从显存里搬到计算核心里过一遍。这时候算力往往是过剩的，瓶颈全卡在内存搬运速度上。

第二是「通信与延迟」。现在的 MoE（混合专家模型）需要频繁在不同专家之间跨芯片分发数据。

OpenAI 这颗芯片砍掉了所有和 LLM 推理无关的冗余单元，把面积和功耗全砸在最重要的两件事上：一是直接堆了 6 颗下一代 HBM4 高带宽显存，把数据搬运通路拓得极宽；二是针对 Transformer 的注意力机制做了硬件级固化。所以它在单并发下的吐字速度能飚到每秒 700 甚至 1400 个 token，而 GB300 因为要顾及大批量吞吐和通用算力，单任务延迟自然显得没那么极致。

问： 这么说来，英伟达真的要被拉下神坛了吗？股市上那些天天喊着 CUDA 护城河不可动摇的人，是不是被打脸了？

答： 我们不能从一个极端走向另一个极端。说「英伟达要完」的人，大概率没真正管过生产环境的大规模 AI 集群。

我们要分清楚两个市场：训练市场 和 推理市场。

在训练（Training）领域，英伟达的霸权在短时间内依然不可动摇。训练大模型就像做科学探索，算法结构每个月都在变，今天流行 Dense，明天流行 MoE，后天可能又换成了新的架构。这时候你必须用通用性极强的 GPU 和极其成熟的 CUDA 生态，否则任何一个算法创新都可能卡在硬件不支持上。不仅如此，万卡、十万卡集群的容错、通信互联、梯度同步，英伟达积累了十几年，目前没有任何一家 ASIC 厂商能在万卡训练集群上真正替代它。

但在推理（Inference）领域，情况正在发生质变。

问： 为什么推理领域的逻辑不一样？

答： 因为推理市场讲究的是纯粹的商业 ROI（投入产出比）和每瓦成本。

大模型结构在推理端已经高度收敛了——主流基本都是 Decoder-only 的 Transformer 和 MoE。当计算模式固定下来后，通用 GPU 的性价比劣势就会被无限放大。

更重要的是软件生态。大家以前总说「天下苦 CUDA 久矣，但没人离得开 CUDA」。这是因为以前的开发者必须自己写 CUDA C++ 来调用底层算子。但现在大模型时代的软件栈已经变了：上层是 PyTorch、vLLM、Triton 和 SGLang，开发者面对的是统一的高层框架。像 OpenAI 这种体量的公司，完全可以用 Triton 或者自研编译器直接把上层算子编译成自己芯片的微码，根本不需要经过 CUDA。

这就好比以前你换系统必须重新写驱动，现在所有应用都跑在浏览器或者容器里，底层操作系统是 Windows 还是 Linux，上层业务根本不在乎。

问： 所以，OpenAI 搞这颗芯片，真正的战略意图是什么？是要造出来卖给其他公司，跟英伟达抢客户吗？

答： 绝不是。OpenAI 不可能变成一家芯片销售公司去组建全球销售和售后支持团队。

他们的核心诉求只有两个：降本保命，以及掌握算力定价权。

你想想看，OpenAI 每天要处理上亿次对话，未来还要跑千万个自主执行任务的 AI Agent。如果全用英伟达的卡，英伟达吃走了 60% 到 70% 的超高硬件毛利，再加上高昂的电力消耗，OpenAI 赚的那点 API 和订阅费全给黄仁勋交了「英伟达税」。

Google 早在十年前就看透了这一点，所以搞了 TPU，现在 Google 内部绝大多数大模型推理和搜索全部跑在自己的 TPU 上，成本比全买英伟达低得多；亚马逊有 Inferentia，微软有 Maia，Meta 有 MTIA。OpenAI 只是补齐了这一块核心拼图。

博通 CEO 陈福阳在采访里说得很直接：这颗芯片能帮他们节省大约 50% 的推理成本。在大规模商业化竞争中，成本降低一半，就意味着你可以把 API 价格降到对手的一半，或者在同样的电力预算下跑两倍规模的智能体。

问： 那这颗芯片什么时候能真正用上？它是停留在 PPT 阶段，还是真能大批量上架机房？

答： 它已经完成了 A0 步进的流片，并且在真实实验室里跑通了包括 DeepSeek-R1、GPT-OSS 在内的万亿级模型。目前台积电正在试产 B0 步进。

但要谈大规模量产和上线，节奏大概是这样的：

预计在 2027 年开始逐步爬坡量产，主力出货要到 2027 年下半年甚至年底。近期规划的集群规模是 100MW，长期框架签到了 10GW 级别。

这里面有两个硬瓶颈不是靠吹牛能解决的：

第一是 HBM4 显存产能。全球能造下一代 HBM4 的就 SK 海力士、三星和美光这三家，产能被英伟达、谷歌、AMD 疯狂抢购；

第二是 台积电先进封装（CoWoS）配额。晶圆做出来不难，但把计算核心和 6 颗 HBM 封装到一起的产能极其紧张。所以这不是明天就能全面替代的事情，而是一场长达数年的供应链攻坚战。

问： 聊了这么多宏观和硬件架构，让我们回到地面。对我们这些普通的后端开发、前端、算法工程师、SRE 运维人员来说，这一波自研芯片浪潮到底意味着什么？

答： 我认为有三个非常具体的现实影响：

第一，Token 价格会继续断崖式下跌，「算力自来水化」加速。

当头部大厂逐步把自研推理芯片铺满机房，推理成本腰斩，反映到开发者端就是 API 调用的价格进一步打骨折。以前大家写程序还要抠门地计较 context 长度、算计一次 function call 消耗几分钱，未来这些开销会低到接近调用一次普通的 Redis 缓存。

第二，高交互、多步骤的 AI Agent 真正具备落地可用性。

为什么现在的 AI Agent 经常让人觉得难用？因为 Agent 动辄要自我反思、反复调用工具循环七八次。如果每次大模型出词都要等几秒钟，整个链路走完就要半分钟，用户体验直接崩溃。当单芯片吐字速度提升到每秒千字级别，单次任务延迟压到 1 秒多，复杂的长链条推理、自主 Debug、多 Agent 协作才具备真正的产品化价值。

第三，底层异构算力的复杂性被编译器彻底屏蔽。

作为普通开发者，你不需要去学某一家专有芯片的底层指令。由于 Triton、XLA 等编译中间层的普及，未来的软件架构是高度解耦的：你在上层写标准 Python / PyTorch 代码，底层的算力调度池里可能混合着英伟达 GPU、谷歌 TPU、博通/OpenAI ASIC。算力真正变成了像云原生容器一样的弹性资源，谁便宜、谁延迟低，流量就自动路由给谁。

问： 这么看来，这场芯片战争的赢家并不是某一家单一的公司？

答： 任何技术发展的终局，从来不是某一家霸主永远垄断一切。

英伟达用 CUDA 开创了通用 GPU 加速计算的时代，功不可没；而当应用场景走向规模化、标准化时，专用 ASIC 和定制芯片必然会分流掉最庞大的日常计算负载。

英伟达守住前沿训练的高峰，ASIC 席卷日常推理的平原；巨头们在硬件上互相牵制，把算力成本压下去——这对于整个软件行业和所有身处其中的普通 IT 从业者来说，绝不是什么坏事。毕竟，只有算力变得足够便宜、足够快，真正属于智能体的软件黄金时代才会真正到来。

本文内容基于近期 SemiAnalysis 深度技术拆解及 OpenAI/Broadcom 披露之公开芯片架构信息整理。