跳到主要内容

在 TPU Pod 上重做原本跑在 GPU 集群里的 70B 预训练:脉动阵列吃得下的是哪几类层?哪些写法会让 XLA 在编译期直接失败?

Agent 性能优化中级性能优化

题目​

在 TPU Pod 上重做原本跑在 GPU 集群里的 70B 预训练:脉动阵列吃得下的是哪几类层?哪些写法会让 XLA 在编译期直接失败?

参考答案​