跳到主要内容

部署 70B 模型,显存不够,你会怎么选型和部署?

Agent 性能优化中级工程化

题目​

部署 70B 模型,显存不够,你会怎么选型和部署?

参考答案​