跳到主要内容

面对「这是不是痛风」,健康问答仍给出病名和用药,尽管系统提示写了不得诊断。怎样分层判断问题出在提示失效、抑或检索越权、又或缺少出站闸?还要补哪些更硬的护栏?

Agent 评测与可靠性中级RAG

题目​

面对「这是不是痛风」,健康问答仍给出病名和用药,尽管系统提示写了不得诊断。怎样分层判断问题出在提示失效、抑或检索越权、又或缺少出站闸?还要补哪些更硬的护栏?

参考答案​