跳到主要内容

数学题和工具 JSON 成批坏掉,闲聊分却几乎不动——权重量到了 INT4。该把敏感层拉回更高精度、扩充校准集,还是把这类请求从 4bit 副本上拿掉?

Agent 性能优化中级工具调用

题目​

数学题和工具 JSON 成批坏掉,闲聊分却几乎不动——权重量到了 INT4。该把敏感层拉回更高精度、扩充校准集,还是把这类请求从 4bit 副本上拿掉?

参考答案​