这周出了几件事,单看每件都不大,串在一起看,风向变了。
6月底到7月初,四家公司几乎同时把自研AI芯片推到了出货阶段:
加上之前Google的TPU v6和Meta的MTIA v2——六家巨头在一年多时间里,全都拿出了自己的芯片方案。
过去五年,AI训练和推理基本只有一个答案:买NVIDIA的GPU。H100、A100、B200——不管你用AWS、Azure还是自己建机房,底层跑的都是NVIDIA的货。
这不是因为NVIDIA垄断了技术。是因为NVIDIA垄断了生态——CUDA。
CUDA不是一个芯片,是一套软件体系。全世界的AI研究员和工程师都用CUDA写代码、调模型。换芯片意味着要重写软件——这个迁移成本大到几乎不可能。
但现在情况变了。
第一,推理端先裂开。 推理对CUDA的依赖比训练低得多。很多推理场景只需要跑前向传播,不需要复杂的分布式训练框架。这让专用推理芯片有机会先在边缘突破。
第二,框架层在脱钩。 PyTorch 2.x对CUDA的绑定在减弱。OpenAI的Triton编译器支持多后端。Google的JAX从一开始就是芯片无关的。底层框架一旦不再绑定CUDA,上层应用就自由了。
第三,用户不在乎底层。 你用ChatGPT的时候不知道它跑在什么芯片上。只要API调用正常、延迟够低、价格合理就行。这意味着推理服务商可以随意切换芯片,用户无感知。
最直接的变化:推理成本会继续降。
NVIDIA的定价里有垄断溢价。当OpenAI和Amazon有了自己的芯片,他们不需要在公开市场上跟别人抢GPU,成本下降会直接传导到API价格。
上周Anthropic的Sonnet 5已经比上一代便宜了40%。这个趋势只会加速。
其次:算力不再是一个人的游戏。
以前你想做大模型,必须搞定GPU供应——而GPU供应的钥匙在NVIDIA手里。现在多了五个选项。虽然短期内NVIDIA还会是主力,但「必须买NVIDIA」正在变成「可以选NVIDIA」。
总结一句话:GPU垄断的时代在2026年7月正式进入倒计时。不是今年会结束,但裂痕已经大到不能忽视了。
袁锐钦 · AI产品实操 & 出海工具站日更中。做产品、测工具、跑变现,把试过的路摊开给你看。