跳到主要内容

证件号夹在 prompt 里,输入会冲到 8k token,吞吐按 200 QPS。自托管引擎、混合路线、托管 API:各自强迫你亲自维护哪些模块?

Agent 工程化与运行环境中级成本

题目​

证件号夹在 prompt 里,输入会冲到 8k token,吞吐按 200 QPS。自托管引擎、混合路线、托管 API:各自强迫你亲自维护哪些模块?

参考答案​