Skill 动态加载到上下文的什么位置?不同方式如何影响遵循与缓存?
题目
Skill 动态加载到上下文的什么位置?不同方式如何影响遵循与缓存?
参考答案
点击展开参考答案
- 注入 system 前缀通常遵循最强,但改变前缀会使 Prompt Cache 大面积失效;作为普通文件/工具结果放在中间,缓存友好但弱模型可能把它当数据;放在末尾更接近当前任务,遵循较好,却每轮增加 prefill。
- 选择取决于模型训练方式、Skill 风险和复用时长。
- 安全/硬约束不放动态 Skill,必须在代码层;Skill 元数据常驻,正文按需加载并带版本/来源。
- 加载后可让模型生成结构化理解摘要,再由测试验证实际遵循。
- 跨模型评测 Skill 触发、指令遵循、缓存命中和 Token,不能假设所有模型一致。