近期,AI小程序成长计划正式上新混元Hy3大模型。作为新一代通用大模型,混元Hy3在多模态理解、长文本生成等能力上实现明显升级,支持更低延迟的交互响应,此次开放后,广大中小开发者可直接调用模型能力开发各类AI应用,降低了开发门槛,目前已有近千支开发团队预约接入,预计后续接入量将持续攀升。
此次混元新模型开放接入小程序生态,背后是国内大模型产业从技术研发转向落地生态竞争的信号。此前大模型的算力需求主要集中在训练阶段,多由头部科技企业自行采购算力,随着大模型能力开放给海量中小开发者,碎片化、爆发式的推理算力需求开始成为市场增长的新核心,也对算力基础设施的灵活性提出了更高要求。
据行业调研数据显示,国内大模型推理算力需求同比增长已超过120%,其中中小开发者带来的长尾推理需求占比提升至35%。此次混元新模型开放,将进一步拉动推理GPU算力的市场需求,预计下半年国内按需算力租赁订单量将提升20%以上。
诚高科技认为,长尾推理算力需求爆发是算力市场的新机遇。目前诚高已在全国多个智算中心布局大规模推理GPU算力资源,可面向不同规模客户提供灵活的算力租赁服务,按需调度降低客户使用门槛。
大模型生态开放已经成为行业趋势,海量长尾场景将持续拉动推理算力需求增长。算力基础设施服务商需要提前布局适配新需求,为行业落地提供可靠支撑。