Agent 性能优化KV-Cache 空间复杂度怎么算?本页总览KV-Cache 空间复杂度怎么算?Agent 性能优化中级性能优化 题目 KV-Cache 空间复杂度怎么算? 参考答案 点击展开参考答案 KV Cache 保存各层历史 K/V,空间随批次、序列长度、层数和 KV 头数线性增长,可用 GQA/MQA、量化、分页或窗口化降低不同成本。 追问方向:可继续讨论连续批处理、前缀缓存和块大小对吞吐的影响。