产品方只关心报出的行号与规则名称,安全方则想核实模型内部有没有真正跟踪污点数据——这是代码审查机器人提示「疑似 SQL 注入」后的两种诉求。它们分别对应 interpretability 和 explainability 中的哪一个?为什么彼此不能代替?
题目
产品方只关心报出的行号与规则名称,安全方则想核实模型内部有没有真正跟踪污点数据——这是代码审查机器人提示「疑似 SQL 注入」后的两种诉求。它们分别对应 interpretability 和 explainability 中的哪一个?为什么彼此不能代替?
参考答案
点击展开参考答案
- 产品要的是 explainability:用外部可核验证据说明这一次输出,例如第 42 行字符串拼接、规则
sql_string_concat、以及改写建议。 - 安全研究要的是 interpretability:打开内部,看哪些头、方向或探针在编码「未净化输入进入查询」。
- 两者不能替代:对外说明可以在模型仍是黑盒时成立;看懂某个神经元也不自动等于给工程师一份可申诉的理由。
- 深度网络很少全局可解释,但每次审查仍应可说明。
- Explainability 面向接收者:作者要位置和修复,审计要稳定规则 id。
- 它可以完全不看权重——静态分析先出 finding,语言模型只组织句子,则依据来自工具。