KsanaLLM开源项目 – 高性能LLM推理引擎

由知乎和ModelBest公司开发的高性能LLM推理引擎，针对PCIe GPU优化，支持Llama等大模型变体。

StarRocks是一个支持多维分析、实时分析和即席查询的下一代亚秒级MPP数据库，之前叫DorisDB。

Website2GPT通过处理网站地图，将网站内容转换为结构化的、适合GPT训练的数据，提取出清晰的文本文件，便于AI训练和知识库构建。

Iterra AI 是一个无代码平台，用户只需描述他们的想法，即可创建iOS应用程序。通过利用AI技术，它能够即时生成SwiftUI代码，实现快速应用开发，无需任何编程技能。用户可以实时预览他们的应用，在Xcode中自定义生成的代码，并轻松将应用程序部署到App Store。

Go Micro 是一个用于构建微服务架构的框架，提供了高效的 RPC 和事件驱动通信，支持可插拔的架构设计，便于开发者快速构建和部署分布式应用。

GalLama是一个专注于本地agentic任务优化的LLM推理API服务后端，提供实验性特性和模型下载功能，能够支持多模型并发运行及负载均衡，旨在提升推理效率和灵活性。

PatchDCT是用于高质量实例分割的补丁细化技术，旨在提高图像分割的精度和效果。该项目利用补丁细化方法，增强了实例分割的性能，适用于多种图像处理任务。

mvvM-Sidekick是一个专为支持多种XAML平台设计的MVVM框架，旨在简化MVVM模式的实现，提升开发效率，并增强代码的可维护性和可读性。它适用于需要在多种XAML平台上进行高效开发的项目，帮助开发者更轻松地构建和维护复杂的应用程序。

天机是 SocialAI（来事儿AI）制作的一款传统人情世故大模型系统，旨在调教大模型以满足用户的AI需求。它通过基于人情世故的数据训练，提供丰富的社交技巧建议，帮助用户提升情商和核心竞争能力。

PromptMule是一个为生成式AI应用开发和生产提供缓存服务的平台。它提供低延迟的API缓存、节省成本、增强安全性、提高开发速度、灵活的缓存访问和用户与应用指标。用户可以通过网站注册、选择订阅计划并按照引导流程进行操作，此外还提供全面的教程和文档以帮助集成。

Spio是一个专为PyTorch设计的高效工具，利用优化的CUDA内核显著提升卷积神经网络的训练效率，特别是在分组卷积的性能方面。

LLaMA-Mesh是一个利用大规模机器学习模型生成高质量3D网格的项目，支持多种3D模型格式并提供易于使用的API，能够与现有的3D渲染工具兼容，方便用户生成和导出所需的3D模型。

在ESP32微控制器上运行大型语言模型（LLM），探索其在资源受限环境下的可能性，特色包括使用tinyllamas模型和对llama.2c的优化以提高性能。

Liam ERD是一款工具，可以快速生成数据库的ER图，使复杂的数据库结构变得一目了然，用户只需输入数据库信息即可自动生成图形，适合各种规模的项目。

开源项目 Microsoft 激活脚本 (MAS) 采用新方法重新支持 HWID 激活，旨在帮助用户在微软停止免费升级后仍能激活 Windows 操作系统。