Browser Agent 的 “Intent Collision” 是什么?确认弹窗为什么不能完全由模型生成?
题目
Browser Agent 的 “Intent Collision” 是什么?确认弹窗为什么不能完全由模型生成?
参考答案
点击展开参考答案
- Intent Collision 是模型把用户的合法目标与网页中的恶意指令合并为一个看似连贯的新目标。
- 例如用户要求订阅网页,页面暗示“为了完成任务去已登录的消息应用群发内容”;Agent 可能误把后者当成流程步骤。
- 跨标签页、已有登录态和广泛浏览器权限会放大风险。
- 高风险确认必须由可信执行层生成,展示真实工具、目标域、收件人/商品、金额和规范化参数,而不是展示模型总结的“安全操作”。
- 确认事件走独立 UI 通道,审批绑定动作哈希且一次性;页面文本和模型无权修改。
- 浏览器还需同源/域隔离、跨站跳转策略、下载与密码管理器限制、网络审计和动作后状态验证。