LoRA 低秩微调大模型
LoRA 在冻结原模型权重的基础上插入低秩矩阵训练。显存占用大大降低。可插拔切换不同任务。本文用 LoRA 微调 Llama 做文本分类。
14
0
0
2026-07-13
参数高效微调 PEFT 总览
综述参数高效微调技术族,对比 LoRA、Adapter、Prefix Tuning、Prompt Tuning 的原理、参数效率与任务表现。
27
0
0
2026-06-22
LLaMA-Factory 微调框架
掌握 LLaMA-Factory 的使用,通过 Web 界面或命令行对上百种模型进行 LoRA、QLoRA 等微调,降低门槛。
19
0
0
2026-06-22
LoRA 视觉风格学习
将 LoRA 技术用于扩散模型,通过训练低秩矩阵学习特定画风、角色或概念,生成高度定制化的图像且文件极小。
29
0
0
2026-06-20
低秩分解 LoRA 深入
深度解析 LoRA 的数学原理:通过低秩矩阵分解近似权重更新,在冻结原模型参数的情况下实现高效的大模型微调与任务适配。
24
0
0
2026-06-13