OpenLM是一个与OpenAI兼容的库,可以调用其他供应商(如HuggingFace,Cohere等)的LLM。它的使用方式与OpenAI的Completion API相似,返回的响应结构也相似。
使用C语言加速的语言模型推理项目,旨在实现单个GPU单批次的硬件利用最大化,具有最小的实现和依赖。该项目通过高效的算法和实现方式,优化了GPU的性能,适合多种语言模型的应用场景。
一个用于与Model Context Provider服务器交互的命令行工具,支持OpenAI和Ollama等多个提供商和模型。
一个开源项目,允许用户在 MacOS 上与本地数据进行聊天对话,帮助总结或分析信息,支持多个开源大语言模型。
一个功能完整的AI聊天机器人模板,基于Next.js和Supabase构建,集成了Vercel AI SDK,支持多种AI模型提供商,具备实时对话、文件存储、用户认证等功能,可快速部署和定制化开发
UVR5-UI 是一款功能强大的人声伴奏分离 AI 工具,提供在线简洁易用的操作界面,支持选择不同的 AI 模型以及输出格式和质量,并且能够进行批量处理,旨在满足用户的多样化需求。