E2B桌面沙箱为大型语言模型（LLM）提供图形桌面环境的沙盒服务，旨在通过安全的计算机使用体验提供隔离的云端环境。
该项目提供了一个关于LLM应用开发的电子书，涵盖了理论学习及实践代码，帮助理解和整合信息处理系统。
dstack是一个开源工具，可以在任何云环境中简化大型语言模型（LLM）的开发。它使开发者能够利用开放的LLM，降低云成本，避免对供应商的锁定。
Ottic是一个用于语言模型(LLM)产品的QA平台，旨在帮助技术和非技术团队高效测试基于LLM的应用程序。它提供了端到端的测试管理、全面的LLM评估和实时用户行为监控等功能。
Terracotta是一个平台，使用户能够快速直观地实验大型语言模型（LLMs），支持模型管理、微调和评估。用户可以安全存储数据，针对分类和文本生成微调模型，并进行定性与定量比较。
VerifAI的MultiLLM是一个开源框架，通过并行调用多个大型语言模型（LLM）并对其输出进行排名，以找到最佳结果（真实值）。该框架可扩展以支持新的LLM和自定义排名函数，从而评估来自不同LLM的多样化输出。
Poozle 正在构建票务 SaaS 工具的集成基础设施，提供一个 API，使公司能够同时集成多个工具，如 Github、Jira、Notion、Zendesk、Salesforce 等。支持大型语言模型（LLM）的集成，提供可扩展的API接口，灵活的插件系统，用户友好的界面，以及强大的社区支持和文档。
Llog是一个为大型语言模型(LLM)设计的协作分析与洞察工具，能够通过简单的请求记录最终用户的交互，并便于所有商业利益相关者从这些日志中提取、分享和推导洞察。
智能优化版Llama.cpp：基于原版Llama.cpp的克隆项目，它增加了最先进的量化技术，并针对CPU性能进行了改进，使得在处理大型语言模型时更加高效
检索增强生成 (RAG) 及其他：关于如何让你的 LLM 更明智地使用外部数据的全面调查
Salute是一个简单的声明式控制大型语言模型（LLM）的方法的JavaScript库，旨在简化与LLM的交互，使开发者能够轻松管理和配置语言模型的行为。
一个全面的语音智能体测试和评估框架，帮助开发者优化LLM驱动的语音助手。它支持多种语言模型和提示词的对比测试，允许自定义评估指标，能够实现模型迁移和成本优化，同时系统地测试不同场景下的代理表现，非常适合语音助手的开发和迭代优化。
BabyCommandAGI旨在测试命令行界面（CLI）与大型语言模型（LLM）的结合效果，探索它们之间的互动，基于BabyAGI构建，并使用GPT-4 API。通过模拟LLM与CLI之间的对话，项目旨在揭示这种组合可能带来的新机遇与挑战。
smolagents是由Hugging Face开源的一款轻量级AI Agent构建工具，核心逻辑仅约一千行代码，功能完整且易于使用。它支持40+主流LLM，并能通过几行代码快速构建强大的AI Agent系统。smolagents与Hugging Face Hub无缝集成，支持自定义模型下载和工具分享，同时提供安全解释器和沙箱环境，确保代码执行的安全性。
