QLoRA（论文仓库） artidoro/qlora

能干什么

QLoRA 论文的官方代码仓库（NeurIPS 2023）：核心思想是把底座模型冻在 4bit 量化（NF4）状态，只训练 LoRA 适配器——微调显存大幅下降，论文报告单张 A100 可微调 65B 模型（论文口径，本站未复测）。仓库内容以按模型组织的 notebook 为主，属于「方法 + 参考实现」，不是开箱工具。

怎么干

• 按仓库内各模型 notebook 逐步走（以 LLaMA 系 notebook 为范本）
• 底座 4bit 加载（bitsandbytes NF4）+ LoRA 适配器训练
• 训练完合并 / 导出，回到推理路径部署

本站怎么用

「QLoRA 是什么」的权威出处页：今天开箱工具（unsloth / LlamaFactory）都已内置 QLoRA，读者追问原理与原始口径时引这里。论文里的显存数字是 A100 环境，消费卡迁移时按本站容量表重新估算。

显存口径

4bit 底座 + LoRA：显存 ≈ 4bit 权重 + 适配器 + 激活，具体数字随序列长度变化，论文数字不直接套消费卡。