Prompt Injection 怎么防?危险工具调用怎么拦截?敏感数据怎么脱敏?
题目
Prompt Injection 怎么防?危险工具调用怎么拦截?敏感数据怎么脱敏?
参考答案
点击展开参考答案
- Prompt Injection 无法只靠 Prompt 根治。
- 用户输入、网页、邮件、RAG 文档、工具结果和其他 Agent 消息都视为不可信数据,带来源和边界进入上下文,不允许覆盖系统目标。
- 对间接注入,关键是限制“被诱导后的模型能做什么”。
- 所有工具调用经过独立 Policy Engine:工具/Server allowlist、最小权限、资源归属、参数范围、网络出口、速率和费用;删除、支付、外发、部署等动作要求预览、step-up auth 和绑定精确参数的审批。
- 模型无法直接拿到凭证,Tool Gateway 注入短期 token。
- Sandbox 默认禁止任意 egress,避免读取私有数据后外传。
- 敏感数据在进入模型、日志、trace 和外部工具前按字段分类脱敏/Tokenize;返回结果做 DLP 和输出校验。