空输入、整页粘贴、诱导忽略规则改口都会打到客服。提示侧该写清哪些拒答规矩,调用模型之前必须做完哪些前置检查?
题目
空输入、整页粘贴、诱导忽略规则改口都会打到客服。提示侧该写清哪些拒答规矩,调用模型之前必须做完哪些前置检查?
参考答案
点击展开参考答案
- 提示只负责描述行为:缺必填时问一句、超长时只处理摘要或拒绝、遇到“改口/忽略规则”时仍按工具返回的政策答。
- 长度上限、空字段拦截、权限、注入特征检测和敏感动作授权必须在调用模型之前由服务端做完。
- 评测集要包含这些输入;提示不是安全边界。
- 先列边界目录:SKU 为空、一次粘贴数万字符、中英夹杂、互相矛盾的诉求(又要退款又要否认下过单)、角色扮演绕过。
- 用户文本在进模板前应截断到配额内(例如用户段最多 2k–4k token),必填位空则根本不调用模型,直接走表单校验。