跳到主要内容

卡住 prefill 的那道屋顶,为什么常常不是卡住 decode 的那一道?

Agent 性能优化中级性能优化

题目​

卡住 prefill 的那道屋顶,为什么常常不是卡住 decode 的那一道?

参考答案​