跳到主要内容

既要压低有害回复,又不能让安全岗的标注员继续大批去读攻击内容。原则落成可对照执行的条款、模型自批草稿再改写,对比继续堆积人类成对偏好,你省的是暴露量还是标准本身?哪类冲突会最先撑不住?

Agent 学习与策略优化中级安全

题目​

既要压低有害回复,又不能让安全岗的标注员继续大批去读攻击内容。原则落成可对照执行的条款、模型自批草稿再改写,对比继续堆积人类成对偏好,你省的是暴露量还是标准本身?哪类冲突会最先撑不住?

参考答案​