固定预算下,如何在上下文、Skill、程序约束和参数训练间分配?
Agent 学习与策略优化中级上下文成本
固定预算下,如何在上下文、Skill、程序约束和参数训练间分配?
参考答案
点击展开参考答案
- 先用失败归因找瓶颈并按可逆性投资:缺最新/私有事实先 RAG/上下文;可语言化策略用 Prompt/Skill;稳定硬规则编码到 Tool/Policy;高维隐式能力且有大量可验证数据才训练。
- 先做便宜、可回滚层,再升级。
- 预算包含开发、标注、推理、评测和维护,不只训练 GPU。
- 为每层设预期增益实验,按成功率、严重错误、成本和长期维护比较。
- 高风险硬约束无论模型多强都保留代码。
- 探索期避免过早训练固化错误假设。