低延迟路由

Glide是一个统一的聊天API，提供低延迟的弹性路由和多种回退策略，包括最少延迟、轮询、加权轮询和基于优先级的路由。它支持特定模型的提示功能，并提供更多强大特性。

LLM API 提供了一套完整的、类型安全且一致的聊天接口，支持 OpenAI、Anthropic 和 Azure 的聊天模型，能够在浏览器、边缘计算和节点环境中灵活使用。

ProChat是一个快速搭建大语言模型Chat对话的前端组件库，旨在赋予开发人员轻松打造丰富、动态和直观的聊天界面的能力。它支持大语言模型的集成，提供丰富的组件以构建聊天界面，并具有高度可定制的用户界面，支持实时消息处理和多种输入输出格式。

Generative Chat UI是一个使用React和TypeScript构建的现代化响应式聊天界面，旨在提供直观且引人入胜的聊天体验。

该项目利用一个具有64B参数的LLM，能够准确扩展超过70%的缩写短语，缩写长度可达10，从而实现高达77%的有效按键节省率。

Chatpad AI是一个提供免费、开源和流畅用户界面的ChatGPT网站，用户可以通过简单的输入与AI进行互动对话。

qwen.cpp是基于C++的Qwen-LM实现，旨在为用户提供高效、实时的聊天体验，支持跨平台使用，便于集成与自定义。

一个简单的后端，它处理用户管理、数据库、文件存储、表单、通过基于频道/主题的通信的实时体验，以及用于 Web 和移动应用程序的服务器端功能，可以将其视为可以自行托管的轻量级 Firebase 替代品，数据始终在您的控制之中。

该项目提供一个平台无关的聊天接口，可以轻松集成到您的网站或移动应用中。它的设计轻便、完全可定制且响应迅速，适用于各种应用场景。

Converse是一个灵活的框架，旨在构建和部署任务导向的聊天机器人，支持多种对话管理策略，易于与现有应用程序和服务集成，同时提供自然语言理解功能，适用于复杂的对话场景，并支持多种语言和平台。

Fluent Chat Generator是一个基于Flutter构建的聊天生成器，旨在为用户提供高效、流畅的聊天体验。该项目利用先进的AI技术，能够自动生成自然流畅的对话，适用于各种聊天场景。它不仅支持多种聊天主题，还提供个性化定制选项，以满足不同用户的需求。

SGLang是针对LLM推理的下一代界面和运行时环境，通过协同设计前端语言和后端运行时，极大改进了复杂LLM程序的执行和编程效率。

InAppChat是一个平台，提供愉悦的聊天体验，用户可以在一个接口中利用来自多个平台的聊天机器人和技能。通过1Chatbot构建聊天机器人，无需担心前端的构建，同时提供聊天SDK、API、UI工具包和消息功能，支持将多个自然语言理解(NLU)库结合为一个聊天机器人，从而实现快速开发和未来-proof的解决方案。

eRPC 是一个高效、可扩展且简单易用的 RPC 框架。适用于 RPC、微服务、点对点长连接、IM 和游戏等领域。

Groq Chat是一个基于Meta AI开发的Llama 2 70B模型的聊天应用，利用Groq LPU™推理引擎，实现极低延迟的交互体验。

这是一个类似于ChatGPT的web聊天程序，但用的是OpenAI的Chat API，需要有API Key。功能比ChatGPT（没有插件之前）更强大，作者一直在完善中。

QuickBlox是一个云通信平台，提供工具用于将实时沟通功能（如聊天和视频通话）集成到移动、网页和桌面应用中。除了SDK、API和UI组件外，QuickBlox还提供开源代码、现成的应用程序和AI集成。它以易用性和灵活性著称，使开发者能够快速实现沟通功能，而无需从头构建复杂的基础设施。

这个开源项目是一个响应式聊天应用程序，使用了OpenAI的GPT-4进行动力支持。它具有响应流、代码高亮和各种预设功能，适用于开发人员。这个项目使用了Next.js、React和Joy等技术。