出图流水线高峰期已经等了 4 分钟,一张工单要吐 4 张 1024 宽的图。把 GPU 秒账单摊开:蒸馏步数、相同分辨率一起批、预览各自省下的是等候时长、计算开销,还是只是心理等候?
题目
出图流水线高峰期已经等了 4 分钟,一张工单要吐 4 张 1024 宽的图。把 GPU 秒账单摊开:蒸馏步数、相同分辨率一起批、预览各自省下的是等候时长、计算开销,还是只是心理等候?
参考答案
点击展开参考答案
- 文生图是异步任务:输入审核 → 排队 → 扩散逐步去噪 → 出图审核 → 对象存储和 CDN。
- 感知等待靠先推低分辨率或少步预览;真成本靠同分辨率合批和少步/蒸馏模型降低每张 GPU 秒。
- 示意:单张 1024 在一枚现代推理卡上常见是数秒到十余秒(随步数和骨干变化),4 张串行就是几十 GPU 秒;合批提高利用率,但不改变「每步一次骨干前向」。
- 配额按 GPU 秒而不是按张,避免有人靠极端步数占满队列。
- 扩散在潜空间迭代:文本编码器把提示收成条件,噪声潜变量走例如 20–50 步(是否蒸馏会差很多)的 UNet 或 DiT,再经 VAE 解码。
- 步数近似线性决定 GPU 时间;分辨率升到 1024 后空间维变大,只有同 shape 才能合批。