首页
学习
活动
专区
圈层
工具
发布

OpenAI:自研芯片基准测试数据超越英伟达

当地时间25日,OpenAI公布自研哈拉佩尼奥AI推理芯片的最新基准测试数据,同时表示其多项核心推理性能指标超越英伟达GB200、GB300旗舰算力系统,引发市场高度关注。

OpenAI最新公布的测试结果显示,相较于英伟达GB200、GB300旗舰算力系统,自研AI推理芯片哈拉佩尼奥的单位功耗下推理性能达到GB系列的1.5至1.9倍,端到端推理延迟时间大幅减少40%至70%,这一跑分来自一家第三方基准测试平台,尚未经过大规模真实业务负载验证。

据介绍,哈拉佩尼奥芯片由博通公司代工制造,专为AI推理场景设计,主要用于运行已经训练完成的大模型,支撑ChatGPT等产品响应用户提问,并不适用于训练大模型任务。这款芯片可以有针对性地缓解AI推理高功耗、高延迟等行业痛点,有望大幅降低AI服务长期运行成本

不过,这款芯片目前仅完成基准测试,距离大规模商业化落地仍有较长周期。据OpenAI硬件负责人介绍,哈拉佩尼奥芯片将于今年年底开展小范围试验部署,具备规模的实际部署预计要等到2027年

有行业分析师表示,仅凭现阶段基准测试优势,哈拉佩尼奥推理芯片短期内难以颠覆英伟达在AI芯片领域的主导地位,但这款芯片的突破凸显推理赛道的战略价值,预计推理业务将成为未来全球AI芯片竞争的关键赛道。

来源:央视财经

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OqFraBCVlz0qWmvSq0a5_dlw0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

领券