跳到主要内容

大模型量化中 W8A8、W4A16、KV Cache 量化如何选择?(高级)

模型选型与微调高级模型选型与微

题目​

大模型量化中 W8A8、W4A16、KV Cache 量化如何选择?(高级)

参考答案​