Awesome-Parameter-Efficient-Fine-Tuning-for-Foundation-Models – 基础模型参数高效微调资源库

一个全面且高效的参数高效微调（PEFT）方法汇总库，专注于解决在有限资源下高效微调大模型的问题。该项目汇总了超过100篇相关论文，涵盖语言、视觉、多模态等多种模型，并提供了丰富的代码链接，方便研究人员和开发者快速上手。其核心价值在于提升微调效率和效果，为大模型的高效微调提供一站式解决方案。

功能:

1. 汇总了超过100篇相关论文，涵盖语言、视觉、多模态等多种模型
2. 分类清晰，涵盖选择性、加性、提示、重参数化和混合等多种PEFT方法
3. 提供丰富的代码链接，方便研究人员和开发者快速上手
4. 汇总了多种参数高效微调方法，涵盖LLM、VFM、VGM、VLM等
5. 涵盖多种前沿技术，如LoRA、Adapter等

特点:

1. 为研究人员提供全面的PEFT方法参考
2. 帮助开发者快速实现大模型的高效微调
3. 用于教学和培训，介绍最新的PEFT技术
4. 支持多领域模型（如语言、视觉、多模态）的微调研究
5. 用于在有限资源下高效微调大模型
6. 作为学习和研究的绝佳资料
7. 帮助研究者快速获取各种微调方法的实现和案例

相关导航

ChatGLM-LoRA-RLHF-PyTorch开源项目 – 基于LoRA和RLHF的ChatGLM微调

该项目提供了一个完整的管道，用于在消费级硬件上微调ChatGLM LLM，结合了LoRA（低秩适应）和RLHF（基于人类反馈的强化学习）技术，旨在提升ChatGLM的能力，使其类似于ChatGPT。

RAG_Techniques开源项目 – 先进的检索增强生成系统技术集

一个先进的检索增强生成系统技术集，为研究人员和实践者提供准确、高效、内容丰富的检索增强生成系统资源，包括关键技术文档、实用实现指南和定期更新的最新进展。

Awesome-LLM-Tabular开源项目 – 大语言模型在表格数据应用的资源汇总

一个整理的大语言模型在表格数据应用的论文资源列表，汇集了大量与表格数据处理相关的研究资源，并提供对大语言模型在这些应用中的深入分析。项目持续更新，确保资源的时效性和相关性，支持多种表格数据处理任务的参考资料。

Awesome Knowledge-driven Autonomous Driving – “参与社区讨论，贡献新的资源和论文”-知识驱动无人驾驶资源汇总

这是一个持续更新的项目，汇集了与知识驱动无人驾驶相关的论文和资源，旨在为研究人员和开发者提供丰富的参考资料和工具。

Awesome-state-space-models开源项目 – 状态空间模型研究资料库

这是一个关于状态空间模型的论文集合，旨在作为Transformer/注意力机制的替代方案。

awesome-humanoid-manipulation开源项目 – 人形机器人操控领域的资源集

这是一个汇集了关于人形机器人操控及上半身人形机器人学习的精选论文和资源的项目，旨在为研究者提供丰富的资料库，促进该领域的研究和发展。

Hands-On-LLM-Fine-Tuning官网 – 大型语言模型微调实践指南

这是一个针对大型语言模型（LLM）微调的综合性实践教程，旨在帮助用户快速掌握LLM微调技术。项目覆盖了从基础到进阶的多种微调方法，包括全参数微调和参数高效微调（如LoRA），并提供了丰富的实践案例，涵盖金融、推理等多个领域。教程设计注重初学者友好性，通过详细的步骤指导和实际案例演示，帮助用户快速上手并应用于实际场景。

awesome-open-gpt开源项目 – GPT相关开源项目合集、精选

这是一个汇集了与GPT相关的多个开源项目的合集，提供对各个项目的简要介绍和链接，适用于研究人员和开发者寻找相关资源，并支持多种GPT相关的应用和工具。

ChatGLM_multi_gpu_zero_Tuning开源项目 – 高效多卡微调大模型的工具

ChatGLM_multi_gpu_zero_Tuning是一个结合deepspeed和trainer的框架，旨在高效实现多卡微调大模型，目前支持LoRA、Ptuning-v2和Freeze三种微调方式，能够充分利用多卡资源，简化微调流程，适用于研究和开发.

Awesome-TimeSeries-AIOps-LM-LLM开源项目 – 时态数据与AIOps资源大全

该项目是一个关于大型语言模型和基础模型在时态数据（时间序列、时空和事件数据）以及AIOps领域应用的资源列表。它提供了全面的资源，包括论文、代码、数据集等，系统地总结了该领域的最新进展，为研究者和开发者提供了可靠的参考。

Awesome-Tabular-LLMs开源项目 – 表格数据处理与LLM的资源汇集

项目描述：表格+大型语言模型（LLM）相关论文整理，汇集了大量关于如何利用大型语言模型处理表格数据的论文，涵盖表格问答、表格到文本、文本到SQL等多种任务，为研究人员提供了一个全面的资源库。

UltraPixel官网 – 高效生成超高分辨率图像

UltraPixel 是一款革命性的图像生成模型，能够直接生成从 1K 到 6K 分辨率的高保真图像。它利用级联扩散模型，在单一模型内处理多种分辨率，同时保持计算效率。模型通过后期去噪阶段利用低分辨率图像的语义丰富表示，指导高分辨率图像的生成，显著降低复杂性。此外，它引入了隐式神经表示进行连续上采样，并采用适应不同分辨率的尺度感知归一化层。这些技术确保图像在低到高分辨率转换过程中保持高细节和真实感，训练效率高，仅需 100 万张高质量、多尺寸图像即可实现，实验显示其性能达到行业领先水平。