跳到主要内容

采用 QLoRA 时基座以 4-bit 存放,是否就表示前向、反传以及优化器更新全部以 4-bit 完成?

模型选型与微调初级微调

题目​

采用 QLoRA 时基座以 4-bit 存放,是否就表示前向、反传以及优化器更新全部以 4-bit 完成?

参考答案​