Phi-4 是 Microsoft 推出的一款小型语言模型，拥有 140 亿参数，特别擅长复杂推理和数学问题解决。它的核心优势包括卓越的数学推理能力，这得益于高质量的合成数据集和创新的后训练技术。Phi-4 在训练过程中战略性地引入了合成数据，通过多代理提示、自我修正工作流和指令反转等技术生成，显著增强了模型的推理和问题解决能力。尽管在推理方面仍有提升空间，未来开发者预计会进一步优化和量化它，目标是实现个人电脑和笔记本电脑上的本地运行。
PocketFlow是一个自动模型压缩（AutoMC）框架，旨在开发更小、更快的AI应用。它支持多种压缩技术，如剪枝、量化和蒸馏，并集成了TensorFlow和PyTorch等流行的深度学习框架。该框架能够在边缘设备上高效部署，并允许根据不同用例定制压缩策略。
Candle是一个用Rust编写的机器学习框架，旨在提供高性能的计算能力，灵活的模型构建方式，支持多种机器学习任务，且易于集成和扩展，适用于各种场景。
LiteChain是一个构建LLMs应用的轻量级替代LangChain的选择，专注于拥有小而简单的核心，易于学习、适应，文档完备，完全类型化和可组合，旨在帮助开发者快速实现复杂应用逻辑。
H2O.ai的开源大语言模型GPT项目，旨在创建世界上最好的开源GPT模型，提供强大的自然语言处理能力，支持多种任务，适用于大规模应用。
Octogen是一个开源代码解释器，基于GPT3.5/4和Codellama，能够解决代码问题，处理图像和视频，并支持本地部署。
SlashGPT是一个旨在帮助开发人员快速制作大语言模型(LLM)智能体或具有自然语言用户界面的应用原型的平台。它提供了丰富的功能和灵活的API，支持快速的原型开发和测试，适合教育和实验用途。
TheZAI是一个智能工具，旨在帮助软件工程师以极大的便利创建移动或Web应用。用户只需描述项目，TheZAI便能生成与之相关的所有代码文件，例如创建一个井字棋游戏时，AI会自动生成所有lib文件夹和yaml文件。
Tucky是一个多智能体框架，旨在为开发者提供简便的工具，以构建和管理多种人工智能代理。该项目支持多种AI模型，可以轻松集成和协作，适用于不同的应用场景，如智能客服、数据分析和用户交互等。Tucky通过模块化设计，使得用户可以根据需求自定义和扩展功能，提升开发效率。
基于ColossalAI的软件缓存方法来动态管理CPU和GPU内存空间中的极大嵌入表，能够在单个GPU上高效训练包括91.10 GB嵌入表的DLRM模型，仅需分配3.75 GB的CUDA内存，适用于大规模数据集。
用Rust语言编写的GLiNER模型推理引擎，能高效地处理自然语言处理中的命名实体识别等任务，具有资源消耗低、性能高的特点，为相关领域的开发者提供了一个强大的工具
LiteRT是Google AI Edge团队推出的高性能、可信赖的边缘AI运行时，旨在继承TensorFlow Lite的优势，并拓展其愿景，支持多种AI框架并优化资源利用率，方便集成和部署。
river-torch是一个基于PyTorch的Python库，专为在线深度学习而设计，支持实时数据的模型适应。它与River框架无缝集成，提供多种神经网络架构，并包含模型评估和性能监控工具。
PyTorch3D是一个用于3D计算机视觉和图形的库，使用户能够轻松实现和实验3D深度学习模型。
PicoVGA 库是专为 Raspberry Pi Pico 设计的 VGA 和 TV 显示器解决方案，提供高效的图形处理能力，支持多种分辨率和色深，适合教育、原型设计及个人项目。
这是一个基于TensorPack框架的实现与模型集锦，包含多种预训练模型，适用于图像处理和计算机视觉任务，易于扩展和自定义。
DBPack 是一个数据库代理，支持分布式事务、读写分离和数据分片。它可以与任何编程语言兼容，并且能够作为sidecar在Kubernetes的pod中部署。
