极简LLM框架

PocketFlow是一个用于构建智能体、任务分解、RAG等任务的极简LLM框架，仅100行代码。它去除了现有框架中繁琐的低级细节，让LLM专注设计程序整体架构和高级逻辑，利用节点、流程和通信等概念来构建应用，支持复杂的任务分解和流程管理，适合快速原型开发。

PocketFlow是一个仅用100行代码打造的极简LLM框架，旨在让LLM（大型语言模型）自主编程成为可能。该框架设计简洁，依赖轻量，仅56KB，适合快速构建和部署LLM应用。它专注于高阶范式，帮助LLM进行高效决策，适用于轻量级LLM项目的开发和测试。

miniLLMFlow是一个极简的LLM框架，仅用100行代码实现，旨在使大型语言模型能够进行自我编程。该框架提供了简洁易用的接口，并支持高效的模型训练和推理，适合研究和应用开发。

收集和梳理垂直领域的开源大语言模型、数据集及评测基准，为用户提供全面的资源和支持，便于在各个专业领域内应用和研究。

lealone-bench 是一个用于性能测试的项目，尤其关注 spsc 链表的性能对比，包含了多种性能测试工具和示例代码。

BitNet是微软发布的1-bit LLM变体研究，支持在CPU上快速无损地推理1.58位模型。该项目通过将每个参数表示为三进制数 {-1, 0, 1}，显著改善了时延、内存利用、吞吐量和能耗，能够在苹果M2等CPU上运行，适用于1.58位模型的无损推理。

Terracotta是一个平台，使用户能够快速直观地实验大型语言模型（LLMs），支持模型管理、微调和评估。用户可以安全存储数据，针对分类和文本生成微调模型，并进行定性与定量比较。

一个深度学习论文的学习项目，包含超过60篇论文的代码实现和详细注释，支持在线阅读和中文版。

由AI2开发的开源LLM评估系统，用于对基础模型和指令微调模型进行全面评估。

一个使用简单、原始的 C/CUDA 进行LLM培训的项目，旨在提供轻量级的实现，减少对大型库的依赖。

GPTder是一个让用户发现和使用更多GPT插件的平台。用户只需创建账户，浏览可用的GPT插件，选择想要使用的插件，并轻松将其集成到现有项目中。

斯坦福开发的一种遵循指令的 LLaMA 模型，基于 Meta 的 LLaMA 7B 模型进行微调，性能接近 OpenAI 的 text-davinci-003，支持在单个 GPU 或 CPU 上运行。

Litellm是一个Python SDK/Proxy Server，旨在简化与多种大语言模型API的交互，支持使用OpenAI格式调用100多个LLM API，提供统一的输入输出格式，易于集成和使用。

Shumai是一个开源的、快速的、网络连接的可微分张量库，适用于TypeScript和JavaScript。

kr_autonomous_flight是一个为空中机器人设计的自主飞行系统，具备实时环境感知、避障、高精度定位与导航等功能，能够与多种传感器集成，提供用户友好的操作界面和控制系统。