OpenAI格式支持

Token.js是一个集成了200多个大型语言模型（LLM）的TypeScript SDK，采用OpenAI格式，支持在客户端运行，无需代理服务器，且为免费开源项目，得到了社区的广泛支持。

开源语言模型集合：汇集了各种开源语言模型的资源，旨在推动自然语言处理技术的发展，强调模型的透明度和可访问性，方便研究人员和开发者使用

dstack是一个开源工具，可以在任何云环境中简化大型语言模型（LLM）的开发。它使开发者能够利用开放的LLM，降低云成本，避免对供应商的锁定。

Terracotta是一个平台，使用户能够快速直观地实验大型语言模型（LLMs），支持模型管理、微调和评估。用户可以安全存储数据，针对分类和文本生成微调模型，并进行定性与定量比较。

基于 Ray 的 LLM 全生命周期解决方案，包括预训练、微调、部署和服务，支持 Python/SQL API，基于 Ray，易于扩展

这是一个用于演示基于Swift的聊天和语言模型测试的Mac应用，旨在展示Hugging Face的swift-transformers库的能力。它提供了一个友好的用户界面，用户可以轻松与多种语言模型进行互动，测试其响应和性能。

Composable Prompts是一个顶尖平台，旨在快速构建、测试和部署基于大型语言模型（LLMs）的任务和API。它为LLMs的世界带来了组合、模板、测试、缓存和可视化等功能，使开发者能够高效地创建强大的提示，重用它们，并在不同环境中进行测试。同时，它通过智能缓存优化性能和成本，并允许轻松切换模型和运行环境。

Hallucination Leaderboard是一个用于评估大语言模型在生成摘要时的幻觉表现的排行榜，旨在提高对模型输出质量的理解和评估方法的透明度。该项目总结了多个知名语言模型在对短文进行摘要时的幻觉产生频率，目前显示GPT-4和GPT-3.5表现最佳。

用Go语言编写的云原生AI网关，作为OpenAI的代理服务，可以创建具有速率限制、费用限制和生存时间限制的API密钥，实现细粒度的访问控制，支持多个大型语言模型，并简化LLM(Large Language Model)的运维操作。

LlamaIndex是一个简单灵活的数据框架，用于将自定义数据源连接到大型语言模型(LLMs)。它提供业界领先的文档导入、解析、检索、索引、查询和评估能力。开发者可以使用Python和Typescript快速构建LLM应用程序。

parea.ai 是一个专为调试和监控大型语言模型（LLM）应用而设计的开发者工具包。用户可以通过该平台轻松管理LLM工作流程，评估和比较不同的提示，监控应用程序的性能，并进行版本控制和迭代。