模型选型与微调MLA 与 KV Cache 怎么用?本页总览MLA 与 KV Cache 怎么用?模型选型与微调中级模型选型与微 题目 MLA 与 KV Cache 怎么用? 参考答案 点击展开参考答案 KV Cache 复用历史 K/V;GQA 和 MQA 通过共享 KV 头缩减缓存,MLA 则缓存低秩 latent 与解耦 RoPE key。 追问方向:可继续讨论矩阵吸收、缓存字节数推导,以及 MLA 与 GQA 在 kernel 和模型质量上的取舍。