跳到主要内容

Pre-Norm、Post-Norm 和 Sandwich Norm 有什么区别?为什么深层模型常用 Pre-Norm?(高级)

模型选型与微调高级模型选型与微

题目​

Pre-Norm、Post-Norm 和 Sandwich Norm 有什么区别?为什么深层模型常用 Pre-Norm?(高级)

参考答案​