住院医生借助大模型(LLM)草拟放射科印象。一季之内人与模型意见不合大约从 18% 收到 3%,隐藏金标准上出错比例几乎没变。该看成精度提升,还是人在朝草稿靠拢这种自动化偏见?要让人重新抓住漏诊,界面与流程该动哪几处?
题目
住院医生借助大模型(LLM)草拟放射科印象。一季之内人与模型意见不合大约从 18% 收到 3%,隐藏金标准上出错比例几乎没变。该看成精度提升,还是人在朝草稿靠拢这种自动化偏见?要让人重新抓住漏诊,界面与流程该动哪几处?
参考答案
点击展开参考答案
- 不一致率单边下降、金标准错误率不动,说明人在朝模型靠拢,不是模型变准。
- 这是自动化偏见:草稿预填、时间压力奖励「直接采用」,医师变成校对员,不再独立读片。
- 先恢复独立判断窗口——先看影像再揭晓模型,或对低置信、高风险部位强制二读——并单独监控「模型错且人同意」的漏诊。
- 一致率可以因为双方都对、双方都错、或人改口而上升,必须拆四格:人√模√、人√模×、人×模√、人×模×。
- 金标准上若「一起错」在增加,就是保险失效。