模型选型与微调自回归生成用 token id 还是概率分布?本页总览自回归生成用 token id 还是概率分布?模型选型与微调中级成本 题目 自回归生成用 token id 还是概率分布? 参考答案 点击展开参考答案 自回归解码下一步输入已选离散token而非完整概率分布,采样策略只决定如何选择该token。 追问方向:可继续讨论训练分布偏移、Gumbel-Softmax、Beam状态和KV缓存复用。