稀疏局部注意力

一种超高效的微调方法，旨在扩展预训练大型语言模型 (LLM) 的上下文大小，而无需巨大的计算成本。它使用稀疏局部注意力替代密集全局注意力，显著节省计算量，同时在训练过程中只需两行代码即可实现，推理时可选。结合可训练的嵌入和归一化，增强LoRA的有效性，并在7B/13B到70B的LLaMA2模型上表现出强大的性能。此外，LongLoRA兼容FlashAttention-2等现有技术，并创建了LongQA数据集用于监督微调，包含超过3000个长上下文问答对。

LLM-zero2hero是一个高度解耦的微调项目，旨在支持大语言模型的自定义训练、验证和推理过程。它提供了全量微调和LoRA微调的能力，使用户能够灵活地调整模型以满足特定需求。

LaMini-LM是一个对多个迷你大语言模型进行微调的项目，旨在提升模型的性能，其中包括经过微调的GPT-2，其性能可与LLaMa的Alpaca-7B相媲美。

Kiln 是一个全自动的微调框架，允许用户在一小时内使用 DeepSeek-R1 蒸馏出属于自己的小模型。整个过程无需编写代码或手动调节，仅需定义数据集即可。Kiln 提供可视化操作界面，支持主流模型如 DeepSeek、Claude、Llama 等，并允许训练自定义推理模型。它兼容 Windows、macOS 和 Linux 系统，开箱即用，适用于专业领域模型构建（如医学、法律等）。

Unsloth Zoo是一个提供用于Unsloth的实用工具库，旨在支持免费微调和加速大型语言模型，帮助开发者更高效地使用和优化语言模型。