LLM-zero2hero是一个高度解耦的微调项目，旨在支持大语言模型的自定义训练、验证和推理过程。它提供了全量微调和LoRA微调的能力，使用户能够灵活地调整模型以满足特定需求。
LaMini-LM是一个对多个迷你大语言模型进行微调的项目，旨在提升模型的性能，其中包括经过微调的GPT-2，其性能可与LLaMa的Alpaca-7B相媲美。
一种超高效的微调方法，旨在扩展预训练大型语言模型 (LLM) 的上下文大小，而无需巨大的计算成本。它使用稀疏局部注意力替代密集全局注意力，显著节省计算量，同时在训练过程中只需两行代码即可实现，推理时可选。结合可训练的嵌入和归一化，增强LoRA的有效性，并在7B/13B到70B的LLaMA2模型上表现出强大的性能。此外，LongLoRA兼容FlashAttention-2等现有技术，并创建了LongQA数据集用于监督微调，包含超过3000个长上下文问答对。
VL-PET是通过粒度控制实现视觉与语言模型的参数高效调优，旨在提升模型在特定任务上的表现。
大型语言模型微调用高质量数据集大列表，帮助提升模型的准确性和多样性，使其更好地理解和执行指令。该项目提供了丰富的高质量数据集，支持不同语言模型的微调需求，适合研究人员和开发者使用。
该研究开发了一种简化的自我训练方法，称为ReST^EM，该方法使用期望最大化（expectation maximization）来微调语言大模型（LLM），表现优于仅依赖人类数据进行微调的策略。
RAGFoundry是一个专注于增强大型语言模型在检索增强生成任务中表现的专业框架，通过微调技术实现快速原型设计与实验，旨在提高模型的生成质量和适应性。
一个关于大语言模型（LLMs）的实用指南和食谱，旨在帮助用户更好地理解和使用这些模型。
该项目总结了大语言模型的微调技术，探讨了指令微调和对齐微调的方法，旨在提升模型在特定任务上的表现。
Anyscale是一个统一的计算平台，旨在利用Ray简化可扩展AI和Python应用的开发、部署和管理。用户可以轻松地开始使用Anyscale端点进行服务和微调开源大型语言模型（LLMs）。
Megatron-LLM是一个专为大规模分布式训练设计的库，旨在高效支持语言模型的预训练和微调。它提供灵活的模型架构配置，并支持多种优化算法，使得用户可以根据需求进行优化和扩展，同时易于与其他深度学习框架集成。
专门用于大型语言模型微调和对齐的库，它提供了一系列高效和可扩展的技术，以及广泛的支持方法和指标，旨在简化模型的训练和部署过程
一个基于斯坦福的 Alpaca，并进行了中文优化的大语言模型项目，愿景是成为能够帮到每一个人的LLM Engine。
Passarel是一个AI驱动的平台，通过使用特定领域的数据创建定制语言模型，帮助新员工快速入职。它提供了一个入职助手，整合现有文档和知识库，使新员工能够便捷地获取信息。
