要把这套检索问答栈卖给欧盟的企业客户。依照 EU AI Act 做风险阶梯:只声明对方在与 AI 交互何时够,什么时候必须提前准备技术卷宗、人在回路监督和运行日志?
题目
要把这套检索问答栈卖给欧盟的企业客户。依照 EU AI Act 做风险阶梯:只声明对方在与 AI 交互何时够,什么时候必须提前准备技术卷宗、人在回路监督和运行日志?
参考答案
点击展开参考答案
- 先按「用途和影响」分级,而不是按「用了多大的模型」。
- 若系统只是回答公开文档、不自动产生法律或雇佣效果,通常落在有限风险:要让使用者知道在与 AI 交互,并管好通用模型那侧的透明与版权义务。
- 一旦问答结果被接到录用、授信、福利资格、关键基础设施操作等受监管用途,就可能按高风险处理,工程要提前具备数据治理、技术文档、自动日志、人类监督、准确性和网络安全证据。
- 卖给欧盟客户不等于自动高风险,但合同里的集成方式会改变分级,必须在销售工程评审里写死用途限制。
- EU AI Act 是欧盟基于风险的横向规则,禁止不可接受用途(例如特定社会评分、无例外的公域实时远程生物识别等,以当时有效文本为准),对其余按高、有限、最小风险施加不同义务;通用目的 AI 模型另有文档、训练数据概要、版权政策等义务。
- 时间上它于 2024-08-01 生效,并按官方时间表分阶段适用(例如禁止类、通用模型义务、高风险义务并不在同一天到来;对外陈述应引用当时有效文本,不要背死一个「全面生效日」)。