一张 H100，怎么同时喂饱 7 个业务？

上个月我在一个智算项目里遇到个典型场面：客户花六位数弄来一张 A100，就为了跑一个不大不小的模型推理。我随手看了眼监控——好家伙，GPU 利用率长期在 30% 上下晃。客户还挺纳闷："陈老师，我这不都买最贵的卡了么，怎么还这么闲？"

我说：卡没闲着，是你没让它"分身"。

很多人以为"虚拟化"是云计算的标配，CPU 切虚拟机那是二十年前就成熟的事。但把 GPU 切开分给多个业务，难度比切 CPU高了一个数量级。这篇文章就把这层底揭一下——顺便给你一个能直接用的选型框架。

一、痛：为什么 GPU 比 CPU 难切这么多

根子在架构。CPU 有特权级（Ring0 到 Ring3），敏感指令会被"截获"交给虚拟机监控器，再加上硬件辅助虚拟化（Intel VT-x 的 root / non-root 双模式），虚拟机几乎能以原生速度直接跑。

GPU 不一样。它本质上是"加速器"，历史上一贯是整卡通过 PCIe 直通（VFIO）丢给一个虚机——谁拿走了整张卡就归谁，别人只能干瞪眼。

更麻烦的是 GPU 是有状态的：CUDA 上下文、显存、计算单元（SM / GPC）、片上调度器，这些东西耦合在一起，原生没有"隔离原语"。所以"切卡"不是切蛋糕，是给一团带电的果冻分家，刀下去容易黏一手。这也是为什么很多客户的贵卡常年空转——小业务用不满整卡，整卡又不敢拆给第二个人。

二、诊：三条切法，硬度递增

现在业内有三条主流路线，从"软"到"硬"：

① 时间分片（Time-slicing / NVIDIA MPS）

最朴素：多个任务轮流用同一张卡，显存按需要分配。NVIDIA 的 MPS（多进程服务）让多个 CUDA 进程共享一个上下文，减少切换开销。

优点：利用率高、显存弹性大

致命缺点：没有硬件隔离。一个任务把算力吃满，其余全饿死；更要命的是故障域共享——一个进程崩了，可能拖垮同卡其他任务

② vGPU（基于 SR-IOV 或 hypervisor 中介直通）

在虚拟化层把一张物理 GPU 虚拟成多个 vGPU 配置档（profile），每个虚机领一份，显存和算力配额由管理平面控制。

本质还是时间分片，但多了个"管理员"

最适合图形桌面云、轻量推理这类多用户场景

③ MIG（Multi-Instance GPU）—— 真正硬隔离

这是 A100 / H100 这类企业级卡的杀手锏。一张卡内部有 7 个 GPC（图形处理簇），MIG 在硬件层面把卡切成最多 7 个独立实例，每个实例独占一部分 GPC、L2 缓存、显存和显存带宽。

物理隔离带来的好处很实：一个实例故障不影响其他；服务质量（QoS）可保证，每个租户拿到的是确定性的算力份额。把一张 80GB 的卡分给 7 个不同模型跑推理——这是 MIG 的主场。

一张表看清三种路线： | 路线 | 隔离级别 | 适合场景 | 风险 | |------|---------|---------|------| | 时间分片 / MPS | 无（共享故障域） | 内部实验、弹性显存 | 互相抢占、故障传染 | | vGPU | 管理面配额 | 图形桌面云、轻推理 | 仍无硬件隔离 | | MIG | 硬件级 | 多租户推理、确定 QoS | 切分粒度受限（最多 7 份） |

三、药：算力切分选型三问（可带走）

讲了这么多技术，落到"我该用哪种"，其实就三个判断维度，建议存下来：

训练还是推理？

训练要连续大块算力、显存胃口大 → 整卡或 MPS；推理任务碎、可并行 → MIG 或 vGPU 切了更划算。

要不要硬隔离？

多租户、合规要求强隔离 → 上 MIG；内部实验、彼此信任 → 时间分片足矣。

显存要不要"确定性"？

业务对显存峰值敏感、不能超卖 → MIG 固定 slice；显存能弹性共享 → MPS 更省。

一句话收口：买卡的钱，三分在硬件，七分在切法。同样一张卡，粗放直通利用率 30%，用 MIG 把推理业务铺满能拉到 80% 以上——省下的不是一张卡，是一整个机房的采购和电费。

四、深一度：当算力变成"水流"

把视角拉高一层：当算力能像自来水一样被切成细小的流，云的商业模式也从"卖机器"变成了"卖水流"。这跟前阵子大家讨论的"算力上天"是同一件事的两面——算力正在变得既无处不在，又随手可切。谁能把"切"这件事做细，谁就握住了下一个时代的水龙头。

免责声明：本文仅代表作者个人观点，不代表任何机构，不构成任何投资、商业或技术决策建议。文中技术原理参考 NVIDIA 公开文档（A100 / H100 MIG 架构说明）及行业公开报道。转载、引用请注明作者「产数实战派」及出处「深一度观察」。