实验管理工具

Zeno Build旨在帮助开发人员快速构建、比较和迭代使用大型语言模型应用的工具，提供简单的代码示例和实验管理功能。

LLaMA-Factory 是一个易于使用的 WebUI 框架，旨在高效微调 100 多种大语言模型（LLM）。它支持多种模型和训练方法，包括 LLaMA、Mistral、Qwen 等，并集成了多种微调方法如 LoRA、QLoRA、PPO、DPO 等。LLaMA-Factory 提供了高级算法如 GaLore、BAdam、DoRA、LongLoRA 等，以及实用技巧如 flashattention、RoPE 缩放等，以优化微调效果。此外，它还支持实验管理工具如 LlamaBoard、TensorBoard、Wandb，以及高效的推理接口如 Gradio UI 和 OpenAI 风格的 API。

Refact.ai推理服务器是一个自托管的服务，基于Docker镜像，提供高可扩展性和灵活性，支持多种机器学习模型，并提供RESTful API接口，方便用户进行模型推理和管理。

LLMChat是一个全栈Web界面的实现，支持多种大型语言模型，如ChatGPT或LLaMA，旨在提供用户友好的互动体验。它允许用户进行实时对话，并具备可定制的模型参数，方便多种部署选项。

专门用于大型语言模型微调和对齐的库，它提供了一系列高效和可扩展的技术，以及广泛的支持方法和指标，旨在简化模型的训练和部署过程

这是一个为gpt-3.5-turbo模型提供的微调图形界面，通过简单易用的Web界面，用户可以自定义数据集进行微调，并实时查看训练进度和结果。

Navan.ai是一个无代码平台，允许开发者和企业在几分钟内构建和部署计算机视觉AI模型，节省高达85%的开发时间和成本。用户可以通过nStudio快速构建模型，通过nCloud将模型部署到云端，并获得推理API。此外，用户还可以选择使用预训练的视觉AI模型，如人脸检测等。

LanguageGUI是一个开源设计系统和UI工具包，旨在为大型语言模型(LLM)提供将文本输出格式化成更丰富的图形用户界面的灵活性。用户可以从Figma克隆该UI工具包，并将其导入到自己的LLM应用中，定制UI元素和界面以满足设计需求。

Grok-1是xAI推出的开源大语言模型，拥有3140亿参数，适用于NLP任务，并提供JAX示例代码，便于加载、运行和微调。

ChatLM-mini-Chinese是一个中文对话0.2B小模型，旨在整理生成式语言模型的训练流程，包括数据清洗、tokenizer训练、模型预训练、SFT指令微调、RLHF优化等。

Hegel AI Prompt Playground是一个供团队实验大型语言模型（LLM）和提示的工具，用户可以跟踪尝试过的历史记录并添加评估，帮助开发者更高效地迭代出适合其用例的工作提示和模型组合，附带SDK。

SaltAI_Language_Toolkit是ComfyUI平台的增强型语言处理工具，集成了检索增强生成（RAG）工具Llama-Index、微软AutoGen和LlaVA-Next，旨在提升平台的功能和用户体验，提供更高效的语言处理能力。

该项目演示了如何利用大模型进行蒸馏来构建小模型，从而在某些领域实现比大型模型更强的推理效果。