AI 生成的 Demo 到量产之间，隔着一条什么样的流水线 — 架构演进型，"Demo vs 量产"是后端工程师的天然共鸣点

0. Demo 很惊艳，量产必翻车

做过生成式 AI 应用的人大概都经历过同一个时刻：Demo 演示时生成效果惊艳，掌声热烈；一上真实业务量，翻车接踵而至——请求超时、队列堆积、成本失控，最要命的是生成结果不可复现，同一个任务重跑一遍，产出完全两样。

问题不在模型，在于 Demo 只需要一次成功，而量产需要每次都成功。这是两种完全不同的工程要求。

以鼎楷智影为例，我们开发这套AI 视频生产平台工具两年，一条 55 镜的分镜视频，服务端要编排几十次图片生成、几十次视频生成、若干次高清与音频处理，串行并行交织。这篇分享把这条流水线从 Demo 推到量产的过程中，我们认为最关键的四个服务端设计。

1. 把生成当异步任务，不当同步请求

第一个架构决定：所有生成调用一律异步化。

同步等待模型返回，在量产场景下是灾难——单次视频生成就可能以分钟计，HTTP 连接挂不住，用户刷新即丢失，并发一上来整个服务雪崩。

正确姿势是把每次生成抽象成任务：提交即返回任务 ID，状态机管理生命周期（排队 → 执行 → 成功/失败/超时），前端轮询或长连接拿进度。配套三件基础设施：

• 持久化队列：任务落库再入队，服务重启不丢任务；
• 幂等设计：同一任务重试不产生重复计费、重复产物；
• 断点续跑：55 个镜头跑了 40 个挂掉，只重跑失败的 40 个，不是从头再来。

2. 失败治理：为每一跳设计降级路径

量产流水线里，模型 API 的失败是常态而非异常：限流、超时、内容审核拦截、偶发空返回，每一种都会出现。

我们的做法是给每个环节定义降级链：主模型失败 → 备用模型重试 → 降参数重试 → 标记人工介入。关键细节：

• 重试要换参数而不是原样重发：原样重发大概率撞同一堵墙，比如触发内容过滤时，改写请求再试；
• 区分可重试与不可重试失败：超时可重试，审核拦截重试一百次也一样，快速进人工通道，别浪费队列资源；
• 部分成功也是成功：视频 5 段成了 4 段，先交付可用部分，失败段后台补——产线思维是让产出最大化，不是让单任务完美。

3. 成本治理：积分不是营销设计，是资源调度设计

生成成本失控是多模型应用的隐形杀手。我们在服务端做了一层额度与调度：

• 用户侧额度（积分/套餐）不仅是计费，本质是资源配额，防止单用户吃满队列拖垮所有人；
• 调度侧按任务优先级分级：交互式请求（用户在画布上等结果）优先级高于批量任务（后台跑整套分镜），高峰期批量任务自动降速；
• 产物即资产：所有中间产物（分镜图、首尾帧、已验证设定）持久化入库、可复用——复用一次生成结果，就是省一次调用成本。这也是素材资产库在服务端的真正含义：一致性问题的解药，同时也是成本问题的解药。

4. 产线纪律：约束前置，让结果可复现

最后回到生成质量本身。量产与 Demo 最大的质量差异是可复现性：同一项目重跑，人物设定、画风、镜头衔接不能变。三个机制：

1. 分层生成：角色、场景、运镜拆到不同的固定参数模块，不随每次调用重新生成——人物不换脸，因为长相不经过重掷骰子；
2. 首尾帧锁定：上一段的尾帧作为下一段的首帧输入，段间一致性由输入约束保证，不赌模型发挥。实测对照：不锁帧返工率过半，锁帧后基本一次通过；
3. 素材入库：生成结果从"用完即弃"变成"验证后入库、下次引用"，画风稳定性和成本效率同时受益。

这三条的共同思想是一条服务端工程师都很熟悉的原则：能在输入侧锁死的变量，绝不留给输出侧碰运气。 生成式应用只是把这条老原则的适用范围扩大了。

5. 结语

把模型组织成产线的能力——异步编排、失败治理、成本控制、约束设计——每一样都是经典分布式工程问题的当代变体。模型层会持续洗牌，今天的最强模型明年就可能被替代，但"把不稳定的智能单元，组织成稳定可运营的系统"这套能力，长期有效。

这也是我们判断生成式应用竞争终局在产线化而非模型化的原因。有在做 AIGC 服务端、任务编排相关工程的朋友，欢迎评论区交流你们的失败治理方案。