tokenizer训练

ChatLM-mini-Chinese是一个中文对话0.2B小模型，旨在整理生成式语言模型的训练流程，包括数据清洗、tokenizer训练、模型预训练、SFT指令微调、RLHF优化等。

nanoChatGPT是在nanoGPT基础上，结合了人类反馈的强化学习层，使用Gumbel-Softmax技巧以提高训练效率，适合进行小型模型的快速实验。

Neutralinojs 是一个轻量级的跨平台应用框架，旨在帮助开发者使用 JavaScript、HTML 和 CSS 创建桌面应用。它支持 Windows、macOS 和 Linux 等多个平台，提供简单易用的 API 和内置 WebSocket 支持，适合快速开发和原型测试。

该项目让你可以在浏览器里跑一个 DeepSeek-R1-Distill-Qwen-1.5B 模型，使用 🤗 Transformers.js 和 ONNX Runtime Web，本地运行。

LLM Prompt & Model Playground 是一个让用户可以并排测试两个LLM提示、模型或配置的工具。它支持多种输入的实时测试，极大地加快了提示和模型的测试过程，并且提供了慷慨的免费使用额度。该项目由Context.ai开发。

LLaMA-Factory 是一个易于使用的 WebUI 框架，旨在高效微调 100 多种大语言模型（LLM）。它支持多种模型和训练方法，包括 LLaMA、Mistral、Qwen 等，并集成了多种微调方法如 LoRA、QLoRA、PPO、DPO 等。LLaMA-Factory 提供了高级算法如 GaLore、BAdam、DoRA、LongLoRA 等，以及实用技巧如 flashattention、RoPE 缩放等，以优化微调效果。此外，它还支持实验管理工具如 LlamaBoard、TensorBoard、Wandb，以及高效的推理接口如 Gradio UI 和 OpenAI 风格的 API。