跳到主要内容

生成权重为何不能充当安全边界?给办公室里的 agent 列威胁:提示注入、失控循环、数据外带、工具越权、误操作。哪些必须在执行器强制,哪些可以先写成策略提示?

Agent 架构设计中级工具调用安全

题目​

生成权重为何不能充当安全边界?给办公室里的 agent 列威胁:提示注入、失控循环、数据外带、工具越权、误操作。哪些必须在执行器强制,哪些可以先写成策略提示?

参考答案​