课堂转写一下子涌进将近 2000 条 16kHz 流,p95 要在 1 秒量级打上时刻标记字幕;想凑满 GPU batch 再算,可抖动与断线正在把包丢掉。batch 大小、环形缓冲、重连时的检查点如何折中,至于对敏感词做遮罩该卡在字幕下发前的哪一环?
题目
课堂转写一下子涌进将近 2000 条 16kHz 流,p95 要在 1 秒量级打上时刻标记字幕;想凑满 GPU batch 再算,可抖动与断线正在把包丢掉。batch 大小、环形缓冲、重连时的检查点如何折中,至于对敏感词做遮罩该卡在字幕下发前的哪一环?
参考答案
点击展开参考答案
- 实时转写的瓶颈是「攒 batch 的等待」和「单路延迟」打架。
- 每路先入环形缓冲,按 200–400ms 分片带重叠送 GPU;batch 用短时窗凑齐当前就绪的分片,到点就开算,不要等满 2000 路。
- 时间戳跟分片的媒体时钟走,不跟服务器墙钟走,否则抖动会让字幕乱跳。
- 断线用
(stream_id, media_time)做检查点,重连只补缺口,不把全文重转一遍。 - 带宽上,2000 × 16kHz × 16bit 单声道大约 64MB/s,网络不是主矛盾,GPU 才是。
- 流式识别要维持每路编码器状态或重叠上下文,2000 路状态常要分到多卡;动态批把同一时刻的分片叠在一起,窗太长(例如再等 300ms 凑批)p95 直接超过 1 秒,窗太短则利用率掉下去。