跳到主要内容

编程和数学能力在偏好对齐后一起变差,有害提示更常被拒。怎样分辨这算不算必须付的对齐税,抑或样本把本事冲掉了?

Agent 学习与策略优化中级安全

题目​

编程和数学能力在偏好对齐后一起变差,有害提示更常被拒。怎样分辨这算不算必须付的对齐税,抑或样本把本事冲掉了?

参考答案​