
国家数据局数据显示,截至 2026 年 3 月底,我国日均词元(Token)调用量已突破 140 万亿——相比 2024 年初的 1000 亿,两年增长超千倍。词元正在成为智能时代可计量、可定价、可交易的基础资源,AI 也从"拼参数、卷训练",全面转入"场景为王、规模化落地"的新阶段。
这些 Token 由谁供给、在哪里生产?对金融、政务、大型央国企而言,"数据不出域"是前置约束,私有化部署是必选题。可是方向很明确,落地却不轻松:不少企业早已买了卡、跑了不少 AI,可一旦复盘"投入—产出",问题就接踵而至——
● 算力建不好:异构算力各自为政,模型适配动辄数周,利用率常年三四成;
● 算力管不住:模型跑起来之后,谁在用、用多少、怎么对账,这套运营体系的工程量远超预期。
前一半问题,腾讯专有云的『智算解决方案』已经作答——从异构算力纳管、高性能网络与存储,到调度卸载与训推平台,算力"建好、跑稳、用足"这一侧已无短板。
后一半问题,还差一层——这一层,则要靠私有化 MaaS来补齐。
而恰好,一款这样的新品即将面世。围绕这层缺口,我们和它的产品负责人王丙茹聊了聊。这一次,我们更想借这篇文章,听听正在规划企业级 AI 的你,最想让它先解决什么。
作者:王丙茹
腾讯专有云 TCE 专家产品经理
负责AI Infra和Maas产品的私有云规划与落地,拥有 10 余年云计算从业经验,先后负责多款公有云/混合云存储与智算产品从 0 到 1 的规划与建设,具备深厚的技术产品功底。
Q1
不少客户机房里卡已就位、平台也搭好了,但为什么说“有算力”还不等于“有 AI 能力”?客户又是怎么真切感受到差别的?
王丙茹:客户对 AI 的使用正在明显提速。半年前我们还在和客户讨论"模型管理",如今焦点已经转向"如何更好地生产 Token、消费 Token"。
从建设逻辑看,企业往往先搭基础设施、再引入平台完成模型选型与部署——但这些解决的都是 AI Infra 层的问题:算力纳管、模型部署、集群运维。真正的分水岭在下一步:当企业要把 AI 能力嵌进业务流程,冒出来的是运营层的问题——计量、计费、多租户、自助服务、成本优化。
"有算力"和"有 AI 能力",差的正是这一层。客户通常通过三个困境"感受"到它的存在:
● 管理粗放:算力、模型都有了,可一进生产,怎么和业务关联、怎么切分?多个业务都要调 Token,却各自为战,谈不上精细化管理。
● 性能失据:Token 规模一上来,客户对 Token 数、响应延时开始有硬性要求,却缺少一个Maas平台来保障。于是卡买了、底座也搭好了,利用率还是上不去。
● 流程冗长:业务部门从提需求到真正用上模型,要走一堆流程、耗上不少天,AI 能力迟迟嵌不进业务。
这道断层,正是我们即将推出的这款私有化 MaaS,想要填补的。
Q2
可以简单介绍这款即将发布的私有化 MaaS 产品吗?
王丙茹:这款私有化 MaaS 产品能快速部署到客户本地机房,把智算中心从"硬件算力平台"升级为"可直接消费 Token 的服务平台"——算力不再是一堆待调度的硬件,而是开箱即可消费的 Token 服务。
在数据不出域的前提下,客户获得本地化的 MaaS 与 Token 生产能力:既能对内供给各业务部门,行业云客户也可对外供给。它想给客户两个确定性:开箱即用,和高性能。
开箱即用,意味着主流大模型预集成、多样模型统一调用;异构算力统一纳管、统一调度——首批将支持国产主流硬件;部署、推理、训练等典型场景均有预置模板,配合可视化界面快速选出合适的模型,简单配置即可试用。
高性能,则来自模型与硬件的深度调优:同一套硬件,调优与否,Token 产出可能相差数倍——这件事,产品在交付前就替客户完善好了。
更具体的形态和规格,我们会在正式发布时完整揭晓。
Q3
倘若企业选择自建一套这样的能力,最容易被低估的困难是什么?
王丙茹:客户最终关心的,从来不是"买了多少张卡",而是每一次有效响应背后,真实的投入——不只是钱,还有团队的时间与精力。而自建要把这笔账算好,有两道坎最容易被低估:
一是供应与构建的复杂度:GPU、交换机、存储分头采购,多供应商、责任难界定;硬件到位后还要在上面做适配、收拢成统一管控平台——这对刚起步的客户很重,一次性重资产投入的预算压力也大。
二是软硬适配与调优的门槛:即便硬件到位、模型选好,能不能跑好、性能达不达标,对技术和调优能力要求极高。同一个模型,调优前后性能可能差出好几倍。也就是说,投入同样的资源,拿到的 Token 量可能天差地别。行业里自建方案的利用率普遍只有三四成,很多项目正是卡在这两处而延期、超预算。
我们做这款产品,就是想在在"供应复杂度"和"调优门槛"两处替客户兜底,提供性价比更高的 Token 服务,让客户不必自己趟这些坑。
Q4
最后一个非常实际的问题:客户从接触到真正验证效果、用上产品,需要哪些前提条件?
王丙茹:产品要体现效果,首要前提是有算力——但起点不同,走法也不同。
还在前期评估、现场暂无算力的客户,可以先通过我们的远程环境体验产品;正式发布后会提供 PoC 环境,把功能试明白、把性能验清楚;预算就绪、希望快速推进的客户,可以直接走 PoC 一体机模式;已有我们适配过的算力的,也可以把软件部署到客户自己的环境里试用。
对于手里有存量算力的客户可以先与我们沟通,快速评估适配性:先把产品用起来,再把存量卡逐步纳管、调优,最终并入同一套平台。换句话说,不同起点的客户殊途同归,最终都汇入同一个 Token 服务平台。
正式发布之前,我们更想听到正在规划企业级 AI 项目的你的声音——
你最希望它优先解决什么:是业务部门的自助开通,还是成本的分摊与核算?你机房里的存量算力,希望被纳管,还是替换?对不同的交付形态,你的倾向与顾虑分别是什么?关于这款产品,你还希望它具备什么能力、或还有什么想问的? |
|---|
欢迎在【评论区】与我们交流。你的每一个问题,都会帮我们校准这款产品正式发布时的答案。
END
关注腾讯专有云公众号,了解更多云与 AI 应用的最佳实践!