OpenAI兼容接口

Manifold 是一个强大的AI驱动的工作流自动化平台，旨在简化复杂任务并提高效率。它集成了多种AI模型，支持文本生成、图像生成和检索增强生成（RAG）。平台提供强大的语义搜索能力，结合PGVector和SEFII引擎，支持多种流行AI端点，如OpenAI、llama.cpp、Anthropic等，扩展性强。Manifold 使用 Vue+Go+Python 开发，支持 OpenAI 兼容接口、本地 llama.cpp 和 mlx，以及 PGVector 作为向量数据库进行 RAG 工作，并提供 Docker 镜像部署。

TinyLM是一个在浏览器中运行AI模型的轻量级推理框架，支持多种模型，如DeepSeek、Llama 3.2等，完全兼容OpenAI接口，无缝对接现有应用，并提供详细的进度跟踪和中断支持，以提升用户体验。

一个开源的LLM训练与推理一体化平台，让大模型的开发和部署变得简单高效。

LM Studio是一个可以在个人计算机上离线运行大语言模型的工具，支持与本地文档的交互，并提供内置的聊天用户界面或兼容OpenAI的本地服务器接口。