参数有效微调

AdaLoRA是一种自适应预算分配的参数有效微调方法，通过调整增量矩阵的秩来控制参数参与计算的量。关键的增量矩阵被分配高秩以捕获更细粒度的信息，而不太重要的增量矩阵被修剪为低秩以防止过拟合并节省计算资源。AdaLoRA利用SVD分解结果，动态调整矩阵秩以优化模型性能。该项目已合并到HuggingFace支持的参数高效微调库（🤗PEFT）中。