Chinese Mixtral开源项目 – 中文混合专家大模型

中文Mixtral混合专家大模型，基于Mistral.ai发布的Mixtral模型，经过中文增量训练和指令精调，支持长文本处理与多种应用框架。
Chinese Mixtral的特点:
1. 支持32K上下文，实测可达128K
2. 在数学推理和代码生成方面表现出显著性能提升
3. 开源中文Mixtral基础模型和指令模型
4. 提供预训练和指令精调脚本，支持进一步训练和微调
5. 支持多种生态系统，包括🤗transformers, llama.cpp等

Chinese Mixtral的功能:
1. 在本地使用CPU/GPU进行模型量化和部署
2. 通过指令精调进一步提升模型性能
3. 在长文本处理任务中应用模型
4. 与LangChain和privateGPT集成使用
5. 进行数学推理和代码生成任务

相关导航

WaveCoder-增强指令调优与数据生成

WaveCoder是一个广泛且多才的项目，专注于增强指令调优和精炼数据生成，采用经过精心调优的代码语言模型和生成器-判别器框架，从开源代码中生成高质量、非重复的指令数据，显著提升大型语言模型在与代码相关任务中的表现和泛化能力。

Wike AI官网 – 快速智能的AI对话助手

Wike AI是一个高效的AI助手，能够提供快速、智能的对话体验。它接入了全球领先的机器学习模型，如GPT-3.5、GPT-4/Turbo、Mistral、Claude3、Llama3等，帮助用户轻松创建所需内容。

Recipe GPT官网 – 为Python程序员提供的LangChain课程

Recipe GPT是一个专为Python程序员设计的综合LangChain课程，帮助用户充分发挥Recipe GPT的潜力，通过一段视频学习如何利用LangChain创建引人入胜的GPT应用程序。

LLaMA-MoE开源项目 – 混合专家模型的持续预训练

基于LLaMA和SlimPajama的MoE模型，旨在利用混合专家模型进行持续预训练。该模型结合了LLaMA和SlimPajama的优点，通过支持混合专家架构，提高模型的效率和性能，同时能够进行持续的预训练，以适应不同的任务，灵活的模型配置使其适用于多种应用场景。

codecompanion.nvim开源项目 – 在Neovim中体验Copilot聊天

codecompanion.nvim是一个在Neovim中提供Copilot聊天体验的插件，配备内置助手，支持多种大型语言模型，包括Anthropic、Copilot、Gemini、Ollama和OpenAI。

CodeGPT.nvim开源项目 – 与ChatGPT交互的Neovim插件

CodeGPT.nvim是一个用于Neovim的插件，提供与ChatGPT进行交互的命令，可以生成代码片段并进行调试。

Effective LLM Alignment Toolkit开源项目 – 高效定制的大语言模型训练工具

一个可定制、简洁、用户友好且高效的工具包，用于训练和微调大型语言模型，支持多种训练和优化方法，以提高模型性能和稳定性。

Bito AI: Bring ChatGPT to your IDE for devs官网 – 为开发者带来ChatGPT的IDE助手

Bito AI是一个为开发者设计的AI虚拟助手，旨在提升编码体验和工作效率。它可以与多种IDE集成，提供代码生成、单元测试创建、代码注释、代码性能改进以及新代码解释等功能。

Orion-14B 系列模型官网 – 多语种大规模语言模型

Orion-14B 系列模型是一个具有140亿参数的多语种大模型，基于包含2.5万亿token的多样化数据集进行训练，涵盖中文、英语、日语、韩语等多种语言。该系列包括多种衍生模型，如对话模型、长文本模型、量化模型、RAG微调模型、Agent微调模型等，适用于多种自然语言处理任务。

Stable Diffusion 3.5官网 – 开源文本生成图像模型

Stable Diffusion 3.5 是由 Stability AI 发布的开源文本生成图像模型系列，包括多个变体如 Stable Diffusion 3.5 Large 和 Stable Diffusion 3.5 Medium。这些模型基于多模态扩散变换器（MMDiT）架构，旨在生成高质量图像，特别适用于文本提示生成图像的任务。项目强调其高度可定制性，适合在消费级硬件上运行，且在 Stability AI 社区许可下免费使用。该许可允许非商业用途免费，以及商业用途年收入低于 100 万美元的组织或个人免费使用，高于此需联系企业许可。用户对生成图像拥有所有权，无需担心许可限制。

MyCoder开源项目 – 智能命令行AI编程助手

MyCoder是一款基于Anthropic的Claude API的强大命令行AI编程助手，旨在简化代码生成和优化过程。它具备智能决策能力，支持并行执行多个子任务，并能够自我修改以自动优化代码，极大地提高了编程效率。

LLM Cookbook开源项目 – LLM入门实践教程

本项目是面向国内开发者的LLM（大型语言模型）入门实践教程，基于吴恩达老师的大模型系列课程，进行了筛选、翻译、复现和调优。教程分为必修类和选修类，涵盖了从Prompt Engineering到RAG开发、模型微调的全流程，帮助开发者系统学习和掌握LLM相关技术和应用。

Awesome-LLM4Math开源项目 – 大语言模型数学推理资源的精选集合

这是一个专注于大语言模型在数学推理方面应用的资源集合，旨在帮助用户更好地理解和利用这些模型解决各种数学问题。该项目汇集了多种与数学推理相关的大语言模型，提供丰富的示例和应用案例，同时包含使用不同数学工具和库的指南，支持多种数学问题的解决方案。

MoBA开源项目 – 提升长文本处理效率的注意力机制

MoBA（Mixture of Block Attention）是一种新型注意力机制，旨在提高大型语言模型（LLM）处理长文本上下文的效率和性能。它结合了稀疏注意力机制和块操作，通过将长文本分成多个块进行处理，减少了计算量。MoBA支持1M上下文长度，并采用参数无偏的Top-k门控机制，精准筛选关键信息。此外，MoBA可以无缝切换全注意力与稀疏注意力模式，在性能与效率之间取得平衡。MoBA兼容Transformer架构，可以替代标准注意力机制，嵌入现有Transformer模型中，提升长文本的处理效率。

HappyAccidents官网 – 无设置的AI艺术创作工具

HappyAccidents是一个突破性的AI工具，通过云管理模型、嵌入和数据集，简化艺术创作过程，让创作者专注于艺术愿景。支持快速图像生成和个性化训练，适合各种创意项目。

DeepSeek-V3官网 – 高效且小巧的量化模型

DeepSeek-V3 的Q4_k_m 量化版本，大小比原本的小一半，兼容性强，适用于多种环境，提升处理效率，同时保留大部分原始模型性能。

DeepSeek Chat官网 – 擅长数学、代码和复杂推理的聊天平台

DeepSeek Chat 是由国内大型模型平台 DeepSeek 发布的聊天平台，基于 DeepSeek-R1-Lite 推理模型。该模型在数学、代码和复杂推理任务上表现出色，能生成数万字的推理流程，帮助用户深入理解模型生成内容的整个过程。平台目前免费提供每日 50 次深度思维推理服务，并计划开源。研究表明，DeepSeek-R1-Lite 在多项测试中表现可能优于 OpenAI 的 o1 预览版。