一个轻量级LLM应用开发框架，类似于Python requests库的简洁设计理念，提供了90%必需的LLM开发功能。
AutoGen UI是一个支持使用多个代理来开发大型语言模型（LLM）应用的框架。这些代理能够相互对话，以协同解决复杂任务，极大地简化了LLM应用的开发流程，同时具有强大的可扩展性和用户友好的Web界面。
Terracotta是一个平台，使用户能够快速直观地实验大型语言模型（LLMs），支持模型管理、微调和评估。用户可以安全存储数据，针对分类和文本生成微调模型，并进行定性与定量比较。
dstack是一个开源工具，可以在任何云环境中简化大型语言模型（LLM）的开发。它使开发者能够利用开放的LLM，降低云成本，避免对供应商的锁定。
关于开发者在使用大型语言模型(LLM)时选择哪个模型的视角的资源库，列举了当前开发者使用的一些开源和商业LLM，并提供了关于如何选择LLM的指南。
为低延迟和高扩展性设计的快速轻量级代理，支持LLM的多种实验和推出特性，适用于生产环境
一个使用简单、原始的 C/CUDA 进行LLM培训的项目，旨在提供轻量级的实现，减少对大型库的依赖。
VerifAI的MultiLLM是一个开源框架，通过并行调用多个大型语言模型（LLM）并对其输出进行排名，以找到最佳结果（真实值）。该框架可扩展以支持新的LLM和自定义排名函数，从而评估来自不同LLM的多样化输出。
TigerLab是一个开源的LLM（大语言模型）工具包，旨在提供用户友好的接口和功能，帮助开发者轻松构建和部署基于大语言模型的应用程序。它集成了多种强大的功能，包括嵌入技术、模型微调和AI安全性，支持不同使用场景的需求。
一个用C++/CUDA实现的大型语言模型（LLM）推理工具，不依赖额外的库，除了用于输入输出。该工具旨在提供高效的推理能力，支持加载和保存冻结的LLM权重，适合各种应用场景。
MNDXT是一款先进的AI伴侣，提供聊天、文本和图像生成服务，帮助用户轻松表达创意、生成引人入胜的内容，并创建量身定制的图像，改变人与AI的互动方式。
Toucan是一个全面的AI写作与聊天机器人，提供多种功能，帮助用户快速、轻松地创建独特且人性化的回应。无论是创意写作、市场营销文案还是数据分析，Toucan都能满足用户的需求。
BlockBot是一个基于区块链技术的去中心化AI机器人生态系统，允许用户创建、交易和盈利各种用途的AI机器人，如聊天、内容创作、生成艺术和娱乐。该平台提供前沿的AI机器人，让用户体验未来的AI技术。
VectorShift是一个创新的无代码AI自动化平台，旨在帮助企业利用人工智能优化业务流程。用户可以通过简易的拖放界面构建和部署生成式AI应用，无需任何编码技能。该平台支持与多种数据源集成，提供预构建的AI解决方案，并允许开发者在无代码环境中编写自定义代码，适用于各类行业。
一个开源实验平台，用于改进基于LLM的应用的功能。通过捕捉输入/输出、添加属性、结合用户反馈和识别，提升生产中的LLM功能。
