模型选型与微调如何做模型路由?本页总览如何做模型路由?模型选型与微调中级模型选型与微 题目 如何做模型路由? 参考答案 点击展开参考答案 路由输入可以包含任务类型、难度、上下文长度、是否需要 Tool/视觉、风险等级、语言、时延 SLA、租户预算和模型健康度。 维护能力矩阵,记录结构化输出、工具调用、上下文长度和安全基线;简单分类/抽取走小模型,复杂规划或高风险任务走强模型并增加 verifier。 先用可解释规则建立基线,再评估学习型路由。 指标不只是平均成本,还包括误路由率、各场景质量损失、降级率、P99 和每成功任务成本。