LoRA 原理与实战

在深度学习微调大模型时,LoRA(Low-Rank Adaptation) 提供了一种高效、轻量的微调方法。本文讲述了LoRA的原理,同时结合一个小型 MNIST 实验做了验证。 1. LoRA 的核心思路在训练大模型时,通常模型参数量巨大,直接微调...

深度学习