跳到主要内容

如何估算一个 Decoder-only Transformer 的参数量、训练 FLOPs 和 KV Cache 显存?(高级)

模型选型与微调高级模型选型与微

题目​

如何估算一个 Decoder-only Transformer 的参数量、训练 FLOPs 和 KV Cache 显存?(高级)

参考答案​