LLM微调工具

GRPO-With-Cargo-Feedback是一个GitHub项目，专注于使用GRPO方法微调大型语言模型（LLMs），特别针对Rust编程语言。该项目利用cargo工具链作为反馈机制，通过迭代优化代码编译和测试通过率，显著提升代码质量。项目还提供了一个完整的Marimo Notebook实验工作流，便于复现和执行实验。

一个开源引擎，用于微调和提供大型语言模型的服务，是定制和提供LLM的最简单方式

LLM-Tuning 是一个专注于简化大语言模型（LLM）微调过程的工具，支持多种模型与数据集，旨在帮助用户轻松实现模型训练与评估。

在本地计算机上微调 LLAMA-v2（或任何其他 LLM）的最简单方法，提供用户友好的界面和高效的训练过程，支持多种语言模型，方便用户上传数据并进行微调。

Trudo AI是一个平台，允许用户在几分钟内构建、自动化和扩展复杂的Python工作流，无需DevOps知识。它提供了一个直观的用户界面，用户可以在此基础上微调OpenAI GPT3模型，构建复杂的AI应用。

一个用纯C语言实现的项目，旨在训练GPT-2模型，代码量仅为1000行，具有高效的内存管理和性能优化，方便扩展和修改。

一个基于HuggingFace开发的大语言模型训练、测试工具。支持各模型的webui、终端预测，低参数量及全参数模型训练和融合、量化。

Wordware是一个基于网络的集成开发环境，专为大型语言模型（LLM）协调而设计，帮助跨职能团队构建AI应用。它作为LLM的后端，类似于一种新的编程语言，基于英语，同时融合了循环、逻辑和函数调用等概念。

一个完整的管道，用于在消费级硬件上使用LoRA和RLHF微调Vicuna LLM。该项目实现了基于Vicuna架构的RLHF（强化学习与人类反馈），基本上是ChatGPT的变种，但使用Vicuna。

Unsloth Zoo是一个提供用于Unsloth的实用工具库，旨在支持免费微调和加速大型语言模型，帮助开发者更高效地使用和优化语言模型。

这个开源项目是一个生成式AI模型优化赛的参赛方案，获得了天池NVIDIA TensorRT Hackathon 2023初赛的第三名。该项目的功能涉及到开源、机器学习等领域。

NanoGPT是一个开源的轻量级语言模型训练工具，专为语言模型爱好者打造，适合在普通电脑上进行GPT架构的训练和实验。它通过精简架构、优化梯度计算和内存管理，使得在普通硬件上也能高效训练语言模型。

OpenCompass是一个大型语言模型评测平台，支持20多种模型和50多个数据集，能够通过高效的分布式评估技术进行快速全面的基准测试。

accelerate是一个工具，可以帮助用户在多种设备上简单地运行PyTorch训练脚本，支持多GPU和TPU训练，并提供了易于集成的解决方案。它使得混合精度训练变得简单，同时支持分布式训练，用户可以通过命令行接口轻松启动训练任务。

ColdDM是一个通过Twitter平台帮助用户找到目标客户并发送个性化消息的工具。用户可以根据特定条件筛选出潜在客户，例如喜欢、转发或回复某个帖子的人，或者在个人简介中包含特定关键词的人。还可以批量上传CSV文件进行处理。用户能够一次性发送所有私信，也可以设置每天发送的数量。

Intel Extension for Transformers 是一个开源项目，旨在使客户端 CPU 上的大型语言模型（LLM）微调成为可能，特别是在没有 GPU 的情况下。它支持在 CPU 上进行 QLoRA 微调，适用于笔记本电脑环境，并通过优化的性能提升模型训练效率。该项目与 HuggingFace Transformers 兼容，支持 4 位推理，并利用 Intel 神经压缩器提供丰富的模型压缩技术，如量化、剪枝和蒸馏，显著提高了英特尔平台上的推理效率。此外，它还支持自动化的仅限权重的 INT4 量化流程，兼容多个流行的大语言模型，如 Llama2、Llama 和 GPT-NeoX。

DinkyTrain是普林斯顿大学NLP团队基于fairseq构建的预训练库，集成了DeepSpeed内核，旨在提供高效的模型训练和简化的训练过程，支持灵活的配置选项。

Taylor AI 是一个高效的工具，旨在帮助用户在几分钟内微调开源大语言模型（如Llama2、Falcon等）。它让用户专注于实验和构建更好的模型，而不用花时间在繁琐的Python库上或跟进每一个开源LLM的更新。同时，用户拥有自己的模型，提升了数据安全性和控制权。