用纯C语言编写的GPT模型,旨在从零开始构建深度学习模型,教育开发者如何从底层构建复杂系统。该项目帮助开发者深入理解深度学习的基本原理,并提供了高效的内存管理和性能优化,从而让学习者能够在实践中掌握相关技术。
GitHub Copilot的最佳实践指南,由社区驱动的开源项目,旨在帮助开发者理解和整合AI工具,以提高产品开发效率。该项目汇集了多位开发者的经验,提供了优化使用GitHub Copilot的最佳实践和模式,帮助开发者在提高代码生成效果的同时,也提升了产品的开发效率和质量。
一个深度学习论文的学习项目,包含超过60篇论文的代码实现和详细注释,支持在线阅读和中文版。
从零开始实现 Stable Diffusion,系统性讲解其工作原理和背后的数学,并提供训练一个扩散模型的步骤。
这是一个基于PyTorch的库,旨在加速在分布外(OOD)检测方面的研究,支持多种检测方法,并提供易用的API设计。该项目结合深度学习模型进行OOD任务,提供数据集和基准测试,且可与PyTorch深度学习框架无缝集成。
openai-api-proxy是一个代理工具,旨在简化对OpenAI API的访问和管理,提供便捷的接口和功能,帮助开发者更高效地使用OpenAI的服务。
Prompt2Model 是一个从自然语言指令生成可部署模型的工具,旨在帮助系统构建者通过自然语言描述任务并提供示例来创建自然语言处理系统。
一个命令行AI工具,支持在Windows、Linux和Mac的各种命令行环境中与AI进行交互。该工具不仅支持多种命令行环境,还能根据git差异生成提交信息,极大地提升了开发效率。
WebLaTex是一个功能全面的LaTeX编辑工具,集成了VSCode、Git、Copilot及语法拼写检查,支持实时协作,是Overleaf的完美替代品。
DeepCompressor是一个专为大型语言模型和扩散模型设计的模型压缩工具箱,支持多种数据类型的假量化,旨在提高模型的推理速度和效率。
一个用于安装其他MCP服务器的工具,支持通过Claude来帮助安装来自npm或PyPi的MCP服务器。通过简单的提示命令完成安装配置,使得MCP服务器的部署变得更加便捷,只需安装npx和uv作为前置依赖即可使用。
一个 Python 优先的工具包,旨在简化 AI 编译器、运行时和复合 AI 系统的开发,提供多种功能以提高开发效率和系统性能。
一套关于如何在软件开发中用 Cursor 编辑器和大型语言模型(LLM)的最佳实践规则,旨在提高开发效率,促进团队协作,并简化代码编写与调试过程。
vLLM Endpoint | Serverless Worker是一个用于提供大型语言模型端点的RunPod工作模板,基于VLLM技术,支持高效的模型加载与推理,具有极强的扩展性,适合在云环境下快速部署。
LLMPlus是一个Python包,旨在帮助开发者使用本地的大型语言模型(LLMs)来构建AI应用。它提供了简洁的接口,以便进行提示工程,支持加载LLM模型、嵌入模型和向量数据库的类。通过自定义提示工程和RAG技术,开发者可以轻松创建LLM应用。
一个命令行工具,用于管理、安装和配置多种语言的Llama推理实现。该工具提供快速安装和配置的功能,具有用户友好的命令行界面,以及灵活的配置选项,支持跨平台使用。
LLMOps是一个灵活、稳健且高效的Python工具包,专为大型语言模型(LLM)的运营设计。它提供了模型注册、实验跟踪和实时推理等关键功能,帮助开发者和研究人员更好地管理和优化他们的模型。该工具包支持高效的操作,并具备灵活的集成能力,适用于各种机器学习工作流。
用蒙特卡洛树搜索与大型语言模型结合解决数学问题的演示项目,就像给AI装上了解题的“指南针”,让它能更高效地找到解题路径
MindSQL是一个Python RAG库,旨在简化与数据库的交互,支持多种数据库如PostgreSQL、MySQL、SQLite、Snowflake和BigQuery,同时利用GPT-4和Llama 2等大型语言模型来增强查询能力。此外,它还支持ChromaDB和Faiss知识库,极大提高了数据访问效率。
river是一个用于在线机器学习的Python库,支持增量学习和数据流处理,适合实时预测系统的构建。它具有多种机器学习算法和模型,易于与现有的数据处理管道集成,同时支持模型评估和性能监控。
miniLLMFlow是一个极简的LLM框架,仅用100行代码实现,旨在使大型语言模型能够进行自我编程。该框架提供了简洁易用的接口,并支持高效的模型训练和推理,适合研究和应用开发。
stable-diffusion-webui的LLaMA版,让你可以通过一个Web界面和本机的LLaMA模型交互,提供本地版的ChatGPT体验。
一款简单高效的语义搜索库,专为小型至中型项目提供嵌入式向量搜索和语义嵌入功能,支持BERT模型,无需复杂的传统搜索系统
一个全面的企业级RAG系统教程项目,涵盖从入门到精通的完整知识体系。包括文档问答、检索优化、评估方法、Agent实现等多个模块,提供详细的实践示例和优化方案,帮助开发者构建高质量的RAG应用
ChineseNMT是一个基于Transformer架构的高效英译中翻译模型,使用PyTorch实现,支持自定义数据集训练,提供预训练模型,并且易于扩展和修改。
本课程将教你使用 Hugging Face 生态系统中的库进行自然语言处理 (NLP)。课程涵盖了使用 Transformer 进行文本处理、数据集训练模型、文本分词及提高计算效率等多方面内容。
AskUI Vision Agent 是一个基于 Python 的计算机任务自动化框架,通过集成 Agent OS 和强大的模型如 Anthropic 的 Claude Sonnet 3.5 v2 和 AskUI 的 Prompt-to-Action 系列,实现了复杂场景的自动化。
CodeGate是一个AI编程助手的隐私和安全守护者,像一个智能的“守门人”,确保AI生成的代码建议既安全又符合最佳实践,保护你的代码和隐私不受侵害。它通过智能监控和审查生成的代码,帮助开发者提升代码质量和安全性。
在APL语言中实现自回归transformer(如GPT2)的项目,支持反向传播和使用Adam优化算法进行训练,旨在结合高性能和简洁代码的优势。
一个使用简单、原始的 C/CUDA 进行LLM培训的项目,旨在提供轻量级的实现,减少对大型库的依赖。