CPU微调

Intel Extension for Transformers 是一个开源项目，旨在使客户端 CPU 上的大型语言模型（LLM）微调成为可能，特别是在没有 GPU 的情况下。它支持在 CPU 上进行 QLoRA 微调，适用于笔记本电脑环境，并通过优化的性能提升模型训练效率。该项目与 HuggingFace Transformers 兼容，支持 4 位推理，并利用 Intel 神经压缩器提供丰富的模型压缩技术，如量化、剪枝和蒸馏，显著提高了英特尔平台上的推理效率。此外，它还支持自动化的仅限权重的 INT4 量化流程，兼容多个流行的大语言模型，如 Llama2、Llama 和 GPT-NeoX。

Low-Rank Adaptation of Large Language Models 是微软研究员引入的一项新技术，主要用于处理大模型微调的问题，能够降低微调过程中的计算开销和内存需求。通过冻结预训练模型的权重并在每个 Transformer 块中注入可训练层，LoRA 实现了在减少训练参数数量的同时，保持微调质量与全模型微调相当，并显著提高微调速度。

这是一个用于分布式PyTorch训练的基础项目，旨在帮助用户快速定制自己的网络。

一种基于Llama-2模型使用自己数据微调的方法，A100显卡就可以对70B模型微调。

在本地计算机上微调 LLAMA-v2（或任何其他 LLM）的最简单方法，提供用户友好的界面和高效的训练过程，支持多种语言模型，方便用户上传数据并进行微调。

这个开源项目是一个生成式AI模型优化赛的参赛方案，获得了天池NVIDIA TensorRT Hackathon 2023初赛的第三名。该项目的功能涉及到开源、机器学习等领域。

CrossQ项目旨在通过在深度强化学习中应用批归一化技术，提高样本效率并简化模型设计，助力研究者和开发者更有效地构建和训练强化学习模型。

Anote平台通过人性化的AI技术，积极从人类反馈中学习，不断优化GPT-4、Bard、Claude等AI算法及RLHF、Fine-Tuning和RAG等技术，使其在特定用例中随着时间的推移表现得更好。

这个开源项目的功能是对类似 #ChatGPT# 的模型进行简单、快速且经济实惠的 RLHF 训练。

Deci是一个深度学习开发平台，旨在加速边缘或云端推理，帮助开发者更快实现产品化，并最大化硬件潜力。它提供了一系列模块，包括基础模型和自定义模型，支持模型训练、优化和部署，适用于多个行业，如汽车、智能零售和视频分析等。

MosaicML 提供的示例项目，旨在帮助用户更好地理解和使用其机器学习工具和框架。该项目包含多种模型训练示例，特别是针对大型语言模型（LLM）的应用。通过高效的资源管理和优化建议，集成了 FSDP（Fully Sharded Data Parallel）以提升训练性能，并提供详细的文档和使用指南，方便开发者快速上手。

LoRA inspector是一个专为Stable Diffusion设计的工具，旨在可视化和评估Low-Rank Adaptation（LoRA）模型的性能。它提供了用户友好的界面，支持多种文件格式的导入和导出，方便用户快速比较不同模型的效果，帮助用户选择最佳的模型配置以提升生成效果。

gpt-cli 是一个命令行工具，允许用户方便地与多个AI模型（如ChatGPT、Claude和Bard）进行交互。它支持通过命令行发送请求，易于集成到其他工具和脚本中，并且提供自定义配置选项，适合开发者和技术用户使用。

RAGoon是一个用于批量生成嵌入、极速基于Web的RAG和量化索引处理的高级库，旨在提升语言模型的性能。它通过搜索查询、网页抓取和数据增强技术，为用户提供上下文相关的信息，帮助更好地理解和利用数据。

Dolomite Engine是一款用于预训练和微调大型语言模型的超优化库，集成了多项关键创新，包括模型架构、微调方法和系统优化。它旨在提高大型语言模型的训练效率和效果，支持多种模型架构，优化微调过程，并提供系统性能的显著提升。

Stick-breaking Attention 是一种基于 Triton 的变长序列注意力机制实现，旨在通过优化计算方式提升在 GPU 上的性能，适合多种深度学习任务，易于与现有框架集成。

OpenAI Tools是一个综合工具包，旨在帮助用户充分利用他们的OpenAI账号。它提供了API使用情况跟踪、ChatGPT微调数据集管理、微调任务的创建、监控和取消、训练日志的审查和可视化、直接测试和比较微调及其他模型等功能。

高效LLM推理加速助手：通过并行提示技术提升大型语言模型的推理效率，适用于边缘和移动环境，具有正交优化、内存效率和训练效率三大特点，显著提升速度并保持低内存开销