最新
QLoRA 微调完整流程
从零开始实践 QLoRA 微调,涵盖 4-bit 量化加载、LoRA 配置、训练监控,以及训练后权重合并与导出。
2
0
0
2026-06-22
最新
bitsandbytes 8-bit/4-bit
实践 bitsandbytes 库,通过 LLM.int8()、NF4、双重量化等量化方案在消费级 GPU 上加载并微调超大规模模型,结合 QLoRA 尤佳。
8
0
0
2026-06-14
最新
QLoRA 高效微调
解析 QLoRA 如何结合 4-bit NormalFloat 量化与 LoRA,通过双量化和分页优化器在极小显存下实现千亿大模型的单卡微调。
7
0
0
2026-06-13