一个可定制、简洁、用户友好且高效的工具包，用于训练和微调大型语言模型，支持多种训练和优化方法，以提高模型性能和稳定性。
MGDebugger是一款多粒度LLM代码调试工具，采用分层调试方法，能够精确定位并解决代码错误，从而有效提升代码的正确率和调试效率。
一个追求极简但强大的AI Agent框架，轻量级设计，支持多种LLM接入，提供安全的代码执行机制。
本笔记包括模型推理、Transformer 模型结构和 lightllm 框架代码分析的详细内容，旨在帮助读者深入理解和应用相关技术。
Run:ai Model Streamer是一个用于将张量从文件流式传输到GPU内存的Python SDK，支持并发和流式处理。
精简版网站爬虫工具，专为自托管优化的网页抓取和转换工具。可将任意网站内容抓取并转换为LLM友好的markdown格式，移除了原版中的计费逻辑和AI功能，支持批量爬取和格式转换，适合需要构建AI训练数据的场景。
shell-ask是一个终端工具，允许用户直接询问语言模型，支持多种语言模型，旨在快速获取问题答案，从而简化命令行交互过程。
为多种大型语言模型（如GPT-4、Claude、Llama3等）设计的高级代码和文本操作提示库，旨在提升多种任务的处理效率，提供灵活且强大的功能，方便开发者和研究者使用。
MuJoCo是一个高性能物理引擎，专注于机器人、生物学、图形动画和机器学习等领域，旨在帮助开发者提升产品开发体验。它提供了高效的物理模拟和丰富的API，支持多种机器人和生物体模型，适合进行各种复杂的物理仿真任务。
企业级Agentic RAG的简易使用方式，支持本地云基础设施部署，基于LlamaIndex构建，提供易于配置的Admin UI和API接口
Quivr 是一个开源的 RAG 框架，专为构建 GenAI 第二大脑而设计，旨在帮助用户构建个性化的生产力助手。它支持多种语言模型，如 GPT 3.5/4 turbo、Private、Anthropic 等，并能够与文档（如 PDF、CSV）和应用程序进行智能对话。Quivr 注重速度和效率，确保快速访问数据，同时提供数据安全，用户完全控制。此外，Quivr 还集成了 Langchain 技术，增强了文档处理能力，并支持私有化部署，确保数据安全。
用于标注语音数据集的实用脚本套件，旨在为基于语音的人工智能模型（如文本到语音引擎）开发过程中所需要的音频变换（或注释）提供简洁、干净的代码库
Transformers.js是一个桥接Web开发与本机AI大模型能力的库，为Web AI开发者提供了强大的工具和功能。
这是一个使用Prefect、MLflow、FastAPI、Prometheus/Grafana和Streamlit构建的MLOps平台，旨在简化机器学习工作流的管理与监控。
Cognify是一个用于生成式AI工作流的多方面优化工具，支持自动增强生成质量并降低成本，可与LangChain、DSPy等框架集成。
Hailo AI Raspberry Pi 5示例项目：展示Hailo AI处理器在树莓派5上的应用能力，提供多种AI示例帮助开发者在嵌入式设备上快速开始AI应用开发
一个先进的检索增强生成系统技术集，为研究人员和实践者提供准确、高效、内容丰富的检索增强生成系统资源，包括关键技术文档、实用实现指南和定期更新的最新进展。
Copilot Arena 是一个开源的AI编程助手，能够提供来自不同大型语言模型的配对自动补全功能，如GPT-4o、Codestral、Llama-3.1等先进模型，旨在提升开发者的编程效率和体验。
DeepCausality是一个高效的因果推理库，支持在复杂的多阶段因果模型上进行快速和确定性的上下文感知因果推理。
Inferable是一个开源的开发者友好平台，旨在帮助用户轻松构建面向生产的AI Agent，提供了多种工具和支持，使得开发者能够快速实现自动化任务，且无需复杂的网络配置。
AWS生成式AI实战随书代码，提供了使用AWS平台进行生成式AI开发的示例和工具，帮助开发者快速掌握生成式AI的应用和实践。
SWE-ReX是一个AI助手的沙盒代码执行框架，支持本地或云端运行，使得AI能够轻松执行各种命令，同时确保代码的安全性和灵活性。
Toolformer是训练语言模型学会使用API的研究，展示了如何通过流动的语言结构来实现API调用的学习。
Qwen-Agent是阿里开源的一个基于Qwen2.0的智能代理框架，具备指令遵循、工具使用、任务规划和记忆能力，可用于构建各种能执行复杂任务的AI代理。开发者可基于此框架开发Agent应用，充分利用Qwen模型的强大功能，如处理长文档、支持多种工具使用、实现复杂任务规划等。项目还提供了浏览器助手、代码解释器、自定义助手等示例应用，帮助开发者快速上手和部署复杂的AI代理应用。
一个开源引擎，用于微调和提供大型语言模型的服务，是定制和提供LLM的最简单方式
LLM101n是由AI领域知名专家Andrej Karpathy开发的一个综合性AI课程，专注于大型语言模型（LLM）的教学。课程从基础知识到高级应用，涵盖深度学习和自然语言处理技术，旨在帮助学习者全面掌握AI技术，并构建类似于ChatGPT的可运行Web应用程序。课程内容包括Python、C、CUDA编程实现，反向传播技术，Transformer架构，注意力机制，分词技术，模型优化，分布式训练，监督微调，强化学习，以及模型部署和多模态技术应用。
LLMClient是一个用于构建检索增强生成（RAG）、推理、函数调用代理、LLM智能体、追踪和日志记录的简单库，旨在帮助开发者更加高效地利用大型语言模型。
一个自然语言处理任务与实例集，提供多种NLP任务的实现和示例。
GPT-4V-API是一个允许用户自托管GPT-4V模型的API，提供高效的API调用和多种输入格式支持，便于与现有应用的集成和灵活配置，满足不同用户的需求。
基于LLaMA和SlimPajama的MoE模型，旨在利用混合专家模型进行持续预训练。该模型结合了LLaMA和SlimPajama的优点，通过支持混合专家架构，提高模型的效率和性能，同时能够进行持续的预训练，以适应不同的任务，灵活的模型配置使其适用于多种应用场景。
