首页
学习
活动
专区
圈层
工具
发布

算力平替时代:AMD正在撕开Nvidia的昂贵防线

事实层面,Wafer.ai在AMD MI355X上成功跑通了GLM5.2,通过MXFP4量化和sglang框架的深度优化,实现了单节点2626 Token/s的吞吐量。这一数据达到了Nvidia B200约80%的性能,但硬件成本仅为后者的一半左右。在Blackwell架构供应极度受限且价格高企的背景下,AMD凭借近2.75倍的价格优势,证明了自己在企业级推理市场的竞争力。

观点层面,CUDA的护城河正在被“推理成本”这把钝刀慢慢磨损。当AI行业从疯狂训练转向大规模落地,单枚Token的成本和能效比就成了企业的生死线。数据中心真正的瓶颈往往不是买不起卡,而是当地电网无法支撑更高的电力负荷。AMD的崛起路径很清晰:在软件生态追赶的同时,利用更高的显存容量和价格冗余,为那些拿不到Nvidia配额或电力预算有限的开发者提供“Plan B”。这种从底层硬件到推理框架的工程优化,正在让算力从奢侈品回归为普惠的工业能源。

wafer.ai/blog/glm52-amd

#人工智能##AI创造营##AMD##Nvidia##大模型#

  • 发表于:
  • 原文链接https://page.om.qq.com/page/ODlwPrG0Q8pvtk4djciYMwBA0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

领券