跳到主要内容

若残差变成覆盖更新,32 层深的 Transformer 会先在何处把训练打崩,梯度又如何回传?

模型选型与微调中级模型选型与微

题目​

若残差变成覆盖更新,32 层深的 Transformer 会先在何处把训练打崩,梯度又如何回传?

参考答案​