跳到主要内容

意图分类日调用量约五百万,全部送进 70B 会贵且慢。第一跳小模型该选多大参数量,哪些在线信号出现才把流量交给大模型?

模型选型与微调中级模型选型与微

题目​

意图分类日调用量约五百万,全部送进 70B 会贵且慢。第一跳小模型该选多大参数量,哪些在线信号出现才把流量交给大模型?

参考答案​