Agent 自举或自动生成子 Agent 时,如何防止代际退化?
题目
Agent 自举或自动生成子 Agent 时,如何防止代际退化?
参考答案
点击展开参考答案
- 自举把一次生成产物当作下一代起点,错误、宽权限、错误记忆和投机 verifier 可能累积。
- 生成器不能直接替换正式 Agent;它只提交版本化候选,包括 Prompt、工具、代码、权限和评测变化。
- 候选在隔离环境跑旧任务回归、新能力任务、安全/成本测试,并由独立 reviewer 或人工审批。
- 使用固定不可修改的根策略、能力上限和验证器;限制可修改文件/组件和递归代数;记录谱系,支持一键回滚。
- 真正的“进化”要求跨未见任务持续增益,而非只修当前 case。
- 若候选提高目标分却损害通用能力或安全护栏,应拒绝合并。