跳到主要内容

日均约 80 万次的中→英条款翻译(源和目标都大约 2k token)外加「8k 源文收成约 200 token 摘要」,什么时候该上 encoder-decoder,而不是继续用现成的 decoder-only?输入输出长度比、交叉注意力、推理成本怎么折?

模型选型与微调中级成本规划

题目​

日均约 80 万次的中→英条款翻译(源和目标都大约 2k token)外加「8k 源文收成约 200 token 摘要」,什么时候该上 encoder-decoder,而不是继续用现成的 decoder-only?输入输出长度比、交叉注意力、推理成本怎么折?

参考答案​