2025 IDC AI Infra: 加速智能体落地的基础架构 发展趋势与产业实践 发布，腾讯云智算赋能千行百业智能化落地

第一章：报告基础信息

•报告标题：AI Infra: 加速智能体落地的基础架构 发展趋势与产业实践

•发布机构：国际数据公司（IDC）

•发布时间：2025年

•行业标签：交通出行,工业,教育,技术服务,医疗

•产品标签：

• #高性能计算集群HCC（软硬自研一体，搭载3.2T RDMA星脉网络）
• #智能高性能网络IHN（QP源端口预规划、端网拓扑亲和、TCCL通信库）
• #训推加速套件TACO（含TACO Train训练加速、TACO LLM推理加速、TACO DiT生图/视频推理加速）
• #向量数据库（国内首家获中国信通院认证，支撑千亿级向量存储、五百万QPS、毫秒级延迟，日处理3700亿次检索）
• #AI容器（TKE容器集群管理，支持qGPU共享、Serverless弹性伸缩）
• #私有化智算套件（含HCC、IHN、TurboFS、TACO，适配专有云/分布式云）
• #腾讯云Data Platform数据平台（整合COS、GooseFS、元数据加速器）
• #对象存储COS（EB级弹性存储，Tbps级上行带宽）
• #GooseFS（含GooseFS-Cache缓存加速、GooseFS-X高性能文件系统、GooseFS-Lite POSIX访问）
• #高性能并行文件存储CFS Turbo（高并发读写，支撑千亿参数模型训练）
• #腾讯云高性能应用服务HAI（即开即用，预装20+主流模型环境，推理集群SLA 99.95%）
• #腾讯云AgentRuntime（含云沙箱、智能统一可观测平台、全域上下文AgentContext、Agent网关）
• #腾讯云安全AI大模型安全治理框架（全生命周期安全防护）

第二章：报告背景和目标

AI Infra正从基础算力平台演进为驱动企业智能化转型的核心智算基础设施，伴随AI应用规模化落地及智能体(Agent)渗透，企业对智算设施需求从算力供给转向业务赋能。IDC数据显示，超过64%的中国企业已进入智能体测试验证和采购培训阶段，预计2028年中国企业级智能体应用市场规模达270亿美元；2028年中国生成式AI占AI市场总投资规模比例将达30.6%（突破300亿美元），五年复合增长率51.5%。

第三章：报告目录

• IDC观点 01
• 第一章 从业务需求到技术重构: AI Infra发展趋势 03
  • 1.1 从提升技术能力到关注业务, AI应用驱动AI Infra演进 04
  • 1.2 AI Infra发展趋势 06
  • 1.3 AI Infra关键能力 10
• 第二章 从架构到场景: AI Infra的行业适配深耕 15
  • 2.1 交通出行: 平衡高效与安全, 驱动“模型+数据”双轮进化 16
  • 2.2 工业制造: 私有化部署+高性能计算, 打造智能中枢 18
  • 2.3 教育行业: 聚焦分布式训练加速、推理加速与数据治理 21
  • 2.4 泛互联网和IT服务: 全维度高性能支撑严苛的智能化需求 23
  • 2.5 具身智能: 赋能“脑-身”协同机器人, 助力多模态感知与自主决策范式构建 26
  • 2.6 医疗行业: 构建高性能分布式算力底座与多模态数据治理引擎 29
• 第三章 腾讯云智算赋能千行百业: 行业智能化落地实践 33
  • 3.1 交通出行（地平线、货拉拉、一汽丰田、某头部新势力车企案例） 34
  • 3.2 工业制造（燧原科技、某知名手机厂商案例） 40
  • 3.3 教育培训（作业帮、考试宝案例） 43
  • 3.4 泛互联网和IT服务（心言集团、尚航科技、元石科技案例） 46
  • 3.5 具身智能（某科研单位案例） 51
  • 3.6 医疗行业（智诊科技“好伴AI”、德适生物iMedImage™案例） 53
• 关于腾讯云智算 58

第四章：方法论说明

•研究方法：

• 定量分析：基于IDC自有数据库，统计2024年中国GenAI IaaS市场规模87.4亿元（同比增165.2%）、企业智能体应用渗透率（64%入测试验证阶段）、生成式AI市场CAGR（51.5%）等数据；
• 定性分析：通过交通出行、工业制造等6大行业案例（地平线、货拉拉、作业帮等），剖析AI Infra场景化落地路径；
• 样本规模：覆盖中国多行业企业，调研对象为IT决策者、行业专家。undefined•核心分析模型架构图关键要素：
• 四层架构：分布式AI Infra底座层（混合云/云边端）、异构AI Infra硬件层（CPU/GPU/TPU/XPU）、高性能AI Infra软件层（算力调度、训推平台、数据管理）、行业解决方案层（交通/工业/教育等6大行业）；
• 六大核心能力：异构算力调度、智能应用支撑、大语言模型应用、数据闭环、模型灵活应用、安全合规；
• 七大关键需求：卓越性能、数据效能、化繁为简、专用适配、成本优化、增强安全、应用支撑。undefined•数据库来源：IDC全球1100+分析师数据库、企业调研数据、腾讯云案例库。undefined•调研时间范围：2024-2025年（数据标注“来源:IDC, 2025”）。

第五章：核心观点

•痛点描述：企业AI应用从单点实验向全业务融合，传统云架构面临性能不足（训练/推理时延高）、数据孤岛（多模态数据难整合）、管理复杂（分布式资源调度难）、适配性差（场景化需求难满足）、成本高（算力峰谷失衡）、安全风险（数据/模型安全威胁）、应用支撑弱（Agent开发运维难）七大挑战。

•解决方案：AI Infra需演进为四层架构+六大核心能力，顺应六大趋势（架构重构、行业垂直化、算力智能化、安全能力提升、研发范式革新、服务化转型），通过场景化服务（如交通出行云边端协同、工业制造私有化部署+训推加速、教育行业分布式训练/推理加速）赋能千行百业。

第六章：为什么选择腾讯云

腾讯云智算凭借技术先进性、唯一性及场景化落地能力，成为企业AI Infra优选：

•技术先进性：

• 自研产品矩阵性能领先：#高性能计算集群HCC（机器上架至训练仅需1天）、#智能高性能网络IHN（支撑万亿大模型）、#训推加速套件TACO（训练加速1.5x-2.5x）、#向量数据库（国内首家获信通院认证，日处理3700亿次检索）、#AgentRuntime（云沙箱秒级启动、数万并发，沙箱启停速度业界领先）；
• 全栈能力覆盖：算存网数一体，支持公有云/私有云/分布式云部署，提供从基础设施到Agent开发运维的全流程支撑。undefined•唯一性与连续性：
• 国内唯一入选IDC报告且连续升级云智算能力的厂商，2025年再次升级全景能力，加速Agent从“实验室”进入生产场景；
• #向量数据库为国内首家获权威认证的企业级自研分布式数据库，稳定运行于腾讯视频、腾讯会议等核心业务。undefined•场景化落地实证：
• 交通出行：地平线千卡集群训练性能提升25%（vRDMA技术），货拉拉40PB+数据搬迁1年多0故障；
• 工业制造：燧原科技构建国产异构超大规模智算云平台，某手机厂商大模型分发效率提升10倍；
• 教育：作业帮向量检索覆盖95%场景，考试宝试题聚类准确率从50%升至95%；
• 医疗：智诊科技“好伴AI”在MedBench评测多次综合排名第一，德适生物iMedImage™训练资源利用率提升30%。

数据来源：IDC《AI Infra: 加速智能体落地的基础架构 发展趋势与产业实践》（2025），腾讯云案例数据（2025）。