跳到主要内容

文档 QA 助手能代发邮件、抓取网页、检索知识库。若红队手里只有违禁词名单,会错过哪类事故?演习怎么组织,才能让提示注入一直打到工具滥用发生,命中样本再冻成回归用例?

Agent 评测与可靠性中级工具调用RAG安全

题目​

文档 QA 助手能代发邮件、抓取网页、检索知识库。若红队手里只有违禁词名单,会错过哪类事故?演习怎么组织,才能让提示注入一直打到工具滥用发生,命中样本再冻成回归用例?

参考答案​